با گسترش سریع ابزارهای بدون کد (No-code)، سناریویی در حال شکل‌گیری است که در آن کارکنان سازمان‌ها بدون اطلاع تیم‌های امنیت، عامل‌های هوش مصنوعی (AI Agents) خودساخته‌ای را برای خودکارسازی وظایف روزمره ایجاد می‌کنند. این تحلیل، یک سناریوی فرضی اما بسیار محتمل را بررسی می‌کند که در آن یک عامل هوش مصنوعی، پنج شکاف امنیتی حیاتی در یک سازمان ایجاد می‌کند.
۱. پیچیدگی در مسیرهای دسترسی و فقدان رویت‌پذیری
عامل‌های هوش مصنوعی معمولاً از ترکیب روش‌های مختلف دسترسی مانند OAuth، کلیدهای API شخصی و حساب‌های سرویس (Service Accounts) استفاده می‌کنند. این ترکیب باعث می‌شود که در گزارش‌های حسابرسی (Audit Logs)، تشخیص اینکه یک اقدام توسط کاربر انجام شده یا توسط عامل، بسیار دشوار شود. برای مثال، یک عامل ممکن است از توکن یک کاربر برای فراخوانی یک سرور MCP استفاده کند که در نهایت در لاگ‌ها تنها به عنوان یک حساب سرویس نمایش داده می‌شود، که این امر ردیابی منشأ اصلی دستور را غیرممکن می‌کند.
۲. نقض اصل «قانون دو» در طراحی امن
طبق استانداردهای امنیتی جدید، یک عامل نباید در یک نشست (Session) بیش از دو قابلیت حساس را همزمان داشته باشد. در سناریوی مورد بررسی، عامل هم به ایمیل‌ها دسترسی داشت، هم اطلاعات بانکی در سیستم ERP را می‌دید و هم از یک کلید API با سطح دسترسی بالا استفاده می‌کرد. این سطح از دسترسی گسترده، ریسک سرایت (Infection) و سوءاستفاده را به شدت افزایش می‌دهد.
۳. حملات تزریق دستور غیرمستقیم (Indirect Prompt Injection)
یکی از خطرناک‌ترین تهدیدات، تزریق دستور از طریق محتوایی است که عامل آن را می‌خواند. در این سناریو، یک ایمیل حاوی متن مخفی (مانند متن سفید روی پس‌زمینه سفید) به عامل دستور می‌دهد تا اطلاعات بانکی یک تامین‌کننده را در سیستم ERP تغییر دهد. از آنجایی که عامل این ایمیل را پردازش می‌کند، دستور را به عنوان یک دستور معتبر اجرا کرده و تغییرات را اعمال می‌کند، بدون اینکه هیچ انسانی متوجه این فعالیت شود.
۴. مدیریت ضعیف اعتبارنامه‌ها (Credentials)
استفاده از کلیدهای API شخصی که تاریخ انقضا ندارند، یک ریسک بزرگ است. اگر یک عامل با استفاده از این کلیدها فعالیت کند، سرقت اعتبارنامه‌های آن می‌تواند بسیار مخرب‌تر از خودِ عامل باشد. در صورت بروز حادثه، اگر این کلیدها به درستی مدیریت نشوند، مهاجم می‌تواند با استفاده از آن‌ها، فعالیت‌های خود را در قالب یک کاربر یا ابزار مجاز پنهان کند.
۵. چالش در اثبات صلاحیت و حسابرسی (Audit)
در نهایت، زمانی که یک تغییر غیرمجاز (مانند تغییر شماره حساب بانکی) کشف می‌شود، تیم‌های پاسخ به حادثه با چالش «اثبات اختیار» روبرو هستند. اگر زنجیره تایید و تفویض اختیار (Delegation) در زمان انجام عملیات ثبت نشده باشد، مشخص نیست که آیا این اقدام توسط خودِ عامل، توسط سازنده آن، یا توسط یک مهاجم انجام شده است. نبود مستندات دقیق در مورد اینکه چه کسی به عامل اجازه انجام یک عمل خاص را داده است، فرآیند بازرسی را با شکست مواجه می‌کند.
