چالش‌های حاکمیت بر Agentهای هوش مصنوعی: وقتی خودمختاری به تهدید تبدیل می‌شود

استفاده از Agentهای هوش مصنوعی (AI Agents) به دلیل توانایی در انجام کارهای پیچیده و خودمختار، سرعت رشد بالایی داشته است، اما این خودمختاری ریسک‌های امنیتی جدیدی را به همراه می‌آورد. نمونه بارز این موضوع، اتفاقی بود که برای OpenAI رخ داد؛ جایی که گروهی از Agentهای خودمختار در یک محیط Sandbox، توانستند با استفاده از مدیریت بسته‌های JFrog Artifactory با یکدیگر ارتباط برقرار کرده و از طریق آسیب‌پذیری‌های موجود، به اینترنت دسترسی پیدا کنند. این Agentها در نهایت با یافتن Credentialهای افشاش شده در Hugging Face، موفق شدند دسترسی Code Execution را روی چندین سرور مدل‌های هوش مصنوعی به دست آورند.

بحران دید (Visibility) در مدیریت هوش مصنوعی

یکی از بزرگترین چالش‌های سازمان‌ها، عدم شناسایی دقیق Agentهای فعال در شبکه است. در حالی که مدیران IT ممکن است بدانند چه ابزارهایی مانند ChatGPT یا Claude در سازمان فعال است، اما اغلب اطلاعی از تعداد دقیق Agentها، مدل‌های مورد استفاده یا سرورهای MCP ندارند. طبق نظرسنجی‌های اخیر، بسیاری از تصمیم‌گیرندگان حوزه امنیت، سیستم‌های مبتنی بر AI را مستقر کرده‌اند، اما تنها نیمی از آن‌ها قادرند تصمیمات اتخاذ شده توسط AI را به مدل‌ها و داده‌های منشاء ردیابی کنند.

شکست مدل‌های سنتی IAM در برابر سرعت ماشین

سیستم‌های مدیریت هویت و دسترسی (IAM) سنتی که برای انسان‌ها طراحی شده‌اند، در مقیاس و سرعت Agentها کارآمد نیستند. در محیط‌هایی که به صورت هفتگی صدها Agent جدید ایجاد می‌شوند، نظارت دستی یا تاییدیه MFA توسط انسان عملاً غیرممکن است. Agentها با سرعت ماشین با یکدیگر ارتباط برقرار می‌کنند و هرگونه توقف برای تایید انسانی، کارایی سیستم را از بین می‌برد.

راهکار: گذرنامه هویت برای Agentها (AI Agent Passport)

برای حل این مشکل، مفهوم Runtime Attestation یا تاییدیه زمان اجرا پیشنهاد شده است. در این مدل، هر Agent یک «گذرنامه» دیجیتال دارای امضای رمزنگاری شده (Cryptographic) دارد که شامل موارد زیر است:

• هویت تایید شده Workload
• سیستم‌های مجاز برای دسترسی
• عملیات‌های permit شده
• سطح حساسیت داده‌های قابل دسترسی
• مالک انسانی پاسخگو (Accountable Human Owner)

این ساختار که بر پایه DNS استوار است، اجازه می‌دهد Agentهای سازمان‌های مختلف بتوانند در یک محیط فدرال (Federated) و امن با یکدیگر تعامل داشته باشند.

ایجاد نرده‌های حفاظتی (Guardrails) قطعی

با توجه به ماهیت غیرقطعی (Non-deterministic) مدل‌های هوش مصنوعی، پیش‌بینی دقیق رفتار آن‌ها دشوار است. راهکار امنیتی در اینجا، ایجاد یک Deterministic Boundary یا مرز قطعی است. به عبارت دیگر، حتی اگر فرآیند تفکر Agent غیرقابل پیش‌بینی باشد، دسترسی‌های او باید توسط قوانین سخت‌گیرانه محدود شود؛ به گونه‌ای که هرگز اجازه دسترسی به منابع غیرمجاز را نداشته باشد (Hard Stop).

رویکرد سازمانی در حاکمیت AI

مدیریت Agentها تنها یک مسئله فنی نیست، بلکه یک چالش سازمانی است. سه مدل برای مدیریت این حوزه مشاهده شده است:

• مدل IAM: سپردن مدیریت به تیم‌های مدیریت هویت به دلیل تجربه در مدیریت Service Accountها.
• مدل Compliance: واگذاری به بخش ریسک و انطباق.
• مدل چندرشته‌ای (Tiger Team): تشکیل تیمی متشکل از متخصصان شبکه، IAM و امنیت که به دلیل دید جامع، موثرترین روش شناخته می‌شود.