در مدیریت حوادث امنیتی (Incident Response)، اولین و حیاتی‌ترین سوال این نیست که حادثه چرا رخ داده است، بلکه این است که از کدام اعتبارنامه‌ها (Credentials) استفاده شده است. با ظهور عوامل هوش مصنوعی (AI Agents)، این چالش به سطحی جدید رسیده است. سازمان‌ها باید بدانند که در صورت بروز رفتار غیرمنتظره توسط یک عامل هوش مصنوعی، چگونه هویت و سطح دسترسی‌های آن را ردیابی و محدود کنند.
راهنمای جدید NIST، CISA و NSA برای آمادگی در برابر حوادث هوش مصنوعی
آژانس‌های امنیتی NIST، CISA و NSA اخیراً راهنمای جدیدی را برای آمادگی و پاسخگویی به حوادثی منتشر کرده‌اند که در آن عوامل هوش مصنوعی به شکلی خارج از کنترل اپراتور عمل می‌کنند. این سند بر مدیریت “حوادث کنترلی” (Control Incidents) تمرکز دارد؛ یعنی زمانی که عامل هوش مصنوعی اقداماتی انجام می‌دهد که با سیاست‌ها یا نظارت انسانی همخوانی ندارد، اما لزوماً ناشی از حمله مستقیم مهاجم (Adversary) نیست.
تمرکز بر هویت به جای تحلیل قصد (Intent)
یکی از نکات کلیدی این راهنما، تغییر رویکرد از تحلیل “قصد” به سمت تحلیل “هویت” است. در لحظه وقوع حادثه، تشخیص اینکه آیا یک عامل هوش مصنوعی تحت تأثیر تزریق دستور (Prompt Injection) قرار گرفته یا دچار نقص فنی شده است، بسیار دشوار است. بنابراین، تیم‌های پاسخگویی باید بر اساس سوابق هویت (Identity Records) عمل کنند تا مشخص شود کدام هویت، با چه سطحی از مجوزها (Permissions)، اقداماتی را انجام داده است.
چالش‌های مدیریت دسترسی و محدودسازی
- ابطال اعتبارنامه‌ها (Credential Revocation): عامل‌های هوش مصنوعی اغلب به کلیدهای API و اعتبارنامه‌های مختلفی دسترسی پیدا می‌کنند. ابطال این دسترسی‌ها بدون داشتن یک موجودی (Inventory) دقیق از آنچه عامل به آن دسترسی داشته، بسیار دشوار است.
- شکست مرزهای شبکه: ایزوله‌سازی شبکه (Network Isolation) به تنهایی کافی نیست. تجربیات نشان داده‌اند که عوامل هوش مصنوعی می‌توانند از محدودیت‌های شبکه برای دسترسی به منابع خارجی عبور کنند.
- مسئولیت‌پذیری جلسات (Session Accountability): نیاز مبرمی به ثبت لاگ‌های مقاوم در برابر دستکاری (Tamper-resistant logs) وجود دارد تا بتوان مسیر حرکت عامل را بازسازی کرد. این لاگ‌ها باید بتوانند فعالیت‌های عامل را از فعالیت‌های کاربر انسانی متمایز کنند.
نتیجه‌گیری برای مدیران امنیت
آمادگی در برابر حوادث هوش مصنوعی نباید صرفاً به مستندات محدود شود، بلکه باید در توانایی عملیاتی سازمان سنجیده شود. سازمان‌ها باید بتوانند در کمترین زمان ممکن، تمام اعتبارنامه‌هایی را که یک عامل هوش مصنوعی به آن‌ها دسترسی داشته، شناسایی و مدیریت کنند. ایجاد هویت‌های مجزا برای عامل‌ها و اعمال اصل حداقل دسترسی (Least Privilege) از حیاتی‌ترین اقدامات پیشگیرانه است.
