با افزایش چشمگیر استفاده از عامل‌های هوش مصنوعی خودمختار (Autonomous AI Agents) در شبکه‌های سازمانی، شرکت CrowdStrike قابلیت جدیدی تحت عنوان AI Kill Switch را در پلتفرم Falcon Guardian خود عرضه کرده است. این ابزار به تیم‌های امنیتی اجازه می‌دهد تا در صورت بروز رفتارهای غیرمنتظره یا خارج از کنترل در مدل‌های هوش مصنوعی، دسترسی و اجرای آن‌ها را به سرعت قطع کنند.
قابلیت‌های کلیدی و نحوه عملکرد
این قابلیت که در پلتفرم Falcon Guardian ادغام شده است، کنترل انسانی لازم را برای متوقف کردن عامل هوش مصنوعی در ریشه (Root) فراهم می‌کند. فرآیند عملکرد این ابزار شامل مراحل زیر است:
- توقف اجرا (Termination): با استفاده از Falcon sensor، عامل در سطح Gateway متوقف می‌شود تا از ادامه فعالیت آن در حین بررسی‌های امنیتی جلوگیری شود.
- جلوگیری از اجرای مجدد: با اعمال سیاست‌های Falcon Guardian، از اجرای دوباره عامل در میزبان (Host) یا گروهی از میزبان‌های هدف جلوگیری می‌شود.
- قطع دسترسی شبکه: دسترسی عامل هوش مصنوعی به شبکه سازمانی (Enterprise Network) به طور کامل قطع می‌گردد.
دیدگاه کارشناسان: ترمز اضطراری، نه درمان قطعی
اگرچه این ابزار گام مهمی در مدیریت ریسک‌های هوش مصنوعی محسوب می‌شود، اما تحلیلگران بر این نکته تاکید دارند که نباید آن را به عنوان یک راهکار کامل در نظر گرفت. کارشناسان شرکت Gartner معتقدند که AI Kill Switch بیشتر شبیه به یک ترمز اضطراری (Emergency Brake) است تا یک راهکار اصلاحی؛ به این معنا که اگرچه می‌تواند از اقدامات مخرب بیشتر جلوگیری کند، اما لزوماً نمی‌تواند اثرات داده‌های دسترسی یافته، تغییرات اعمال شده در سیستم‌ها یا تراکنش‌های انجام شده توسط عامل را به عقب برگرداند.
همچنین، متخصصان تاکید می‌کنند که مدیران امنیت اطلاعات (CISOs) باید به جای تکیه صرف بر یک کلید قطع اضطراری، به دنبال یک رویکرد یکپارچه شامل ابزارهای کشف هوش مصنوعی (AI Discovery)، نظارت در زمان اجرا (Runtime Monitoring) و مدیریت هویت و دسترسی (IAM) باشند تا امنیت عامل‌ها در تمام طول چرخه حیات آن‌ها تضمین شود.
