امنیت عامل‌های هوش مصنوعی: مقابله با ریسک‌های داخلی در سرعت ماشین

عامل‌های هوش مصنوعی (AI Agents) به سرعت در حال تبدیل شدن به بخشی جدایی‌ناپذیر از فرآیندهای کاری هستند. این عامل‌ها می‌توانند طیف وسیعی از فعالیت‌ها، از نوشتن کد و تحقیق محصول گرفته تا تحلیل درآمد و پردازش هزینه‌ها را انجام دهند. برای کارایی بیشتر، این عامل‌ها اغلب نیاز به دسترسی به داده‌ها، اپلیکیشن‌ها، ابزارها و سایر عامل‌های شرکت دارند. همین سطح از دسترسی، پتانسیل ایجاد ریسک‌های داخلی (Insider Risk) جدیدی را به همراه دارد.

جداسازی هوش از اختیار (Authority)

چالش اصلی در امنیت عامل‌ها این است که مدل‌های هوش مصنوعی ماهیتی غیرقطعی (Non-deterministic) دارند؛ یعنی خروجی و رفتار آن‌ها ممکن است با تغییر بافت (Context) یا ورودی‌ها، تغییر کند. ساتیا نادلا، مدیرعامل مایکروسافت، بر یک اصل اساسی تأکید دارد: ما باید تأمین هوش را از مرجعیت و اختیار (Authority) آن جدا کنیم. کنترل‌هایی که تعیین می‌کنند یک عامل به چه چیزی دسترسی داشته باشد یا چه اقدامی انجام دهد، باید خارج از مدل قرار بگیرند تا مدل نتواند آن‌ها را دور بزند یا دستکاری کند.

استراتژی Project Perception و امنیت عامل‌ها

برای مقابله با این تهدیدات، رویکردی مبتنی بر احاطه کردن هوش غیرقطعی با کنترل‌های قطعی (Deterministic) پیشنهاد شده است. این استراتژی بر چهار محور اصلی استوار است:

• شناسایی و هویت (Identity): هر عامل باید دارای یک هویت متمایز و مستقل از کاربر انسانی باشد. مایکروسافت با معرفی Entra Agent ID، امکان ردیابی و مدیریت هویت عامل‌ها را فراهم کرده است تا بتوان فعالیت‌های آن‌ها را از فعالیت‌های کاربران انسانی تفکیک کرد.
• محدودسازی محیط اجرا (Containment): عامل‌ها نباید دسترسی‌های کامل به دستگاه داشته باشند. استفاده از محیط‌های ایزوله یا سندباکس (Sandboxing) مانند Microsoft Execution Container (MXC) باعث می‌شود که حتی در صورت سرایت (Infection) یا کامپرومایز شدن عامل، کنترل‌های امنیتی خارج از دسترس آن باقی بمانند.
• اعمال اصل حداقل دسترسی (Least Privilege): برخلاف مدل‌های سنتی، یک عامل نباید تمام دسترسی‌های کاربرِ اسپانسر خود را به ارث ببرد. مفهوم Dynamic Permissions اجازه می‌دهد دسترسی‌ها دقیقاً متناسب با وظیفه (Task-scoped) و برای مدت زمانی محدود اعطا شوند.
• حفاظت پویا (Adaptive Protection): با توجه به اینکه رفتار عامل‌ها می‌تواند تحت تأثیر حملاتی مانند Prompt Injection تغییر کند، سیستم‌های امنیتی باید بتوانند ریسک عامل را به صورت لحظه‌ای (Dynamic Agent Risk) ارزیابی کرده و دسترسی‌ها را به صورت خودکار محدود یا قطع کنند.

خودکارسازی امنیت با Guardian Agents

با افزایش تعداد عامل‌ها به هزاران مورد، مدیریت دستی آن‌ها غیرممکن خواهد بود. رویکرد جدید، استفاده از خودِ عامل‌ها برای امنیت است. Guardian Agents وظیفه دارند با سرعت ماشین، سیگنال‌های امنیتی را تحلیل کرده، شواهد را بررسی کنند و اقدامات مهارکننده (Containment) را به صورت خودکار اجرا کنند، در حالی که تصمیم‌گیری‌های نهایی و استراتژیک همچنان در اختیار انسان باقی می‌ماند.