با ورود سریع عامل‌های هوش مصنوعی (AI Agents) به زیرساخت‌های سازمانی، مدیریت امنیت این ابزارها به یکی از چالش‌های اصلی تیم‌های امنیتی تبدیل شده است. این عامل‌ها با بهره‌گیری از امتیازات (Privileges) کاربران، قادر به دسترسی به داده‌ها، اجرای دستورات و تعامل با سرویس‌های خارجی هستند که این امر ریسک‌های امنیتی جدیدی را در صورت عدم نظارت، ایجاد می‌کند.
چالش‌ها و سطح حمله در عصر هوش مصنوعی
تحقیقات نشان می‌دهد که ابزارهای مبتنی بر هوش مصنوعی، به‌ویژه در حوزه توسعه نرم‌افزار، محبوبیت بسیار زیادی یافته‌اند. با این حال، افزایش استفاده از این ابزارها با افزایش قابل توجه آسیب‌پذیری‌ها (Vulnerabilities) همراه بوده است. از سال ۲۰۲۵ تاکنون، بیش از ۲۵۰۰ آسیب‌پذیری در مدل‌های زبانی بزرگ (LLM)، ابزارهای هوش مصنوعی و پلاگین‌های مرتبط شناسایی شده است.
روش‌های کنترل و محدودسازی دسترسی
برای مقابله با این تهدیدات، سازمان‌ها باید از رویکرد دفاع چندلایه استفاده کنند:
- کنترل اپلیکیشن (Application Control): دسته‌بندی و مدیریت فرآیندهای اجرا شده در نقاط انتهایی (Endpoints) برای جلوگیری از اجرای عامل‌های هوش مصنوعی غیرمجاز.
- کنترل وب (Web Control): مدیریت و محدودسازی دسترسی کاربران به سرویس‌های هوش مصنوعی به عنوان سرویس (AIaaS).
- شناسایی رفتار مشکوک: استفاده از راهکارهای EDR برای رصد فعالیت‌های عامل‌ها، از جمله اجرای دستورات PowerShell مشکوک یا تلاش برای سرقت اعتبارنامه‌ها (Credentials).
شناسایی حملات پیشرفته و دستورالعمل‌های مخرب
یکی از تهدیدات جدی، استفاده از “مهارت‌های مخرب” (Malicious Skills) است؛ یعنی دستورالعمل‌هایی که در قالب زبان طبیعی به عامل داده می‌شود تا کدهای مخرب را اجرا کند. همچنین، حملاتی مانند ClickFix می‌توانند از طریق دستورالعمل‌های دریافتی از منابع نامعتبر، عامل‌های هوش مصنوعی را به ابزار خودکارسازی حمله تبدیل کنند.
در سطح فنی، سیستم‌های EDR باید قادر به شناسایی موارد زیر باشند:
- حالت‌های اجرای خطرناک: شناسایی عامل‌هایی که در حالت “YOLO mode” (اجرای خودکار بدون تایید کاربر) یا با غیرفعال بودن Sandbox اجرا می‌شوند.
- آرتیفکت‌های سرور MCP: رصد ایجاد یا تغییر اسکریپت‌های سرور MCP در دایرکتوری‌های مخفی یا موقت.
- دسترسی غیرمعمول به API: شناسایی اپلیکیشن‌هایی که به شکلی غیرعادی با API سرویس‌های LLM خارجی ارتباط برقرار می‌کنند.
- اسکن فایل‌های مدل: بررسی فایل‌های مدل‌های زبانی (مانند فرمت‌های PTH، PT، PKL) برای شناسایی کدهای مخرب جاسازی شده در وزن‌ها یا پارامترهای مدل.
نتیجه‌گیری برای مدیران امنیت
برای بهره‌برداری از پتانسیل هوش مصنوعی بدون به خطر انداختن امنیت، سازمان‌ها باید ترکیبی از پورتال‌های هوش تهدید (Threat Intelligence) برای به‌روز بودن در برابر TTPهای جدید، راهکارهای EDR برای نظارت بر رفتار عامل‌ها و موتورهای اسکن (Scan Engine) برای بررسی فایل‌های مدل و دستورالعمل‌های ورودی را به کار بگیرند.
