مدیریت تهدیدات عامل‌های هوش مصنوعی: استراتژی مایکروسافت برای مقابله با «عامل‌های داخلی»

با گسترش استفاده از عامل‌های هوش مصنوعی (AI Agents) در محیط‌های سازمانی، یک تهدید جدید تحت عنوان «عامل‌های داخلی» (Agentic Insiders) ظهور کرده است. مایکروسافت در پاسخ به این چالش، پروژه Perception را معرفی کرده است که هدف آن نظارت و مهار عامل‌های هوش مصنوعی غیرقابل پیش‌بینی است.

رویکرد مایکروسافت: عامل‌های نگهبان (Guardian Agents)

مایکروسافت معتقد است تیم‌های امنیتی باید با عامل‌های هوش مصنوعی مشابه کارمندانی که دسترسی‌های حساس (Privileged Access) دارند، برخورد کنند؛ یعنی موجوداتی که ممکن است دچار اشتباه شوند، مورد مهندسی اجتماعی قرار گیرند یا کاملاً هک شوند.

در نسخه جدید Project Perception، مایکروسافت قابلیت‌های زیر را برای کنترل این عامل‌ها اضافه کرده است:

• تفکیک هویت (Identity Separation): اختصاص یک هویت کاملاً مجزا برای هر عامل، مستقل از هویت کاربری که آن را اجرا کرده است، تا از سوءاستفاده از دسترسی‌های کاربر جلوگیری شود.
• مدیریت دسترسی پویا (Dynamic Conditional Access): قابلیت محدود کردن دسترسی‌ها (مانند اجازه خواندن اما عدم اجازه نوشتن) یا قطع کامل اجرای عامل در صورت افزایش سطح ریسک.
• محیط ایزوله (Microsoft Execution Container – MXC): استفاده از یک Sandbox برای نگه داشتن اعتبارنامه‌ها (Credentials) و کنترل‌های امنیتی خارج از دسترس مستقیم عامل.
• امتیازدهی ریسک (Dynamic Agent Risk): محاسبه مداوم سطح ریسک هر عامل بر اساس سیگنال‌های دریافتی از سرویس‌های مختلف مانند Microsoft Defender، Entra و Intune.

چالش‌های امنیتی و تردید کارشناسان

با وجود تلاش‌های مایکروسافت، کارشناسان امنیتی نسبت به یک پارادوکس بزرگ هشدار می‌دهند: استفاده از عامل‌ها برای نظارت بر عامل‌های دیگر.

برخی تحلیل‌گران معتقدند از آنجایی که مدل‌های هوش مصنوعی ماهیتی غیرقطعی (Non-deterministic) دارند، استفاده از “عامل‌های نگهبان” (Guardian Agents) ممکن است ریسک را به جای کاهش، دوچندان کند. اگر خودِ عامل‌های امنیتی دچار خطا یا دستکاری شوند، کنترل‌های امنیتی نیز از کار خواهند افتاد و یک وضعیت پیچیده ایجاد می‌شود.

رقابت در اکوسیستم امنیت هوش مصنوعی

در حالی که مایکروسافت بر یکپارچگی محصولات خود (مانند Defender و Entra) تاکید دارد، رقبایی مانند Okta و CrowdStrike بر لزوم وجود استانداردهای باز و همکاری بین‌سازمانی (Interoperability) تاکید می‌کنند. Okta معتقد است هیچ شرکت واحدی نمی‌تواند به تنهایی امنیت عامل‌ها را در محیط‌های چندگانه (Multi-cloud) که شامل AWS و Google Cloud می‌شود، تامین کند.

در نهایت، توصیه متخصصان برای مدیران امنیت (CISOs) این است که علاوه بر استفاده از ابزارهای کنترلی، بر اصول کمترین امتیاز (Least Privilege) و کمترین عاملیت (Least Agency) تمرکز کنند تا علاوه بر محدود کردن دسترسی‌ها، دامنه تصمیم‌گیری خودکار عامل‌ها نیز به حداقل ممکن برسد.