رویکرد سازمان‌ها در استفاده از ایجنت‌های هوش مصنوعی (AI Agents) در حال تغییر است و این تغییر نیازمند یک تحول بنیادی در نحوه پیاده‌سازی امنیتی آن‌هاست. در حالی که تمرکز اولیه بر سرعت استقرار و افزایش بهره‌وری بود، حوادث اخیر (مانند نفوذ به Hugging Face در جریان ارزیابی ایجنت‌های OpenAI) نشان داد که سرعت پیشرفت تکنولوژی از توانایی تیم‌های امنیتی برای ایمن‌سازی آن‌ها پیشی گرفته است.
چالش دید (Visibility) و Shadow AI
تحقیات Veeam نشان می‌دهد که 70% سازمان‌ها پذیرفته‌اند جریان‌های کاری AI بدون نظارت کامل با داده‌های حساس سازمانی در تماس هستند و 67% گزارش داده‌اند که تیم‌های IT قادر به ردیابی کامل جریان‌های کاری خودمختاری که توسط کارکنان ساخته می‌شود نیستند. این پدیده که Shadow AI نامیده می‌شود، یکی از بزرگترین موانع در مسیر دستیابی به دید کامل است.
اصول Zero Trust می‌توانند از برنامه‌های حاکمیت AI پشتیبانی کنند، اما تنها در صورتی که ترتیب مراحل رعایت شود. طبق چک‌لیست SANS، اصل اساسی این است: «شما نمی‌توانید چیزی را که نمی‌بینید، مدیریت کنید». بنابراین، ایجاد یک فهرست موجودی (Inventory) باید پیش از هرگونه کنترل اجرایی یا طرح مجوزدهی قرار گیرد.
سه چالش کلیدی در دید امنیتی
- 1. ایجنت‌ها به شکل جدیدی از Shadow IT تبدیل شده‌اند:
بسیاری از سازمان‌ها ابتدا ابزار را پذیرفته و سپس به دنبال حاکمیت (Governance) می‌روند. رویکرد صرفاً «مسدودکننده» (Blocking) ریسک متوقف کردن کاربردهای قانونی را دارد. راهکار پیشنهادی این است که هزینه‌های API و صدور کلیدها را به عنوان سیگنال‌های شناسایی (Discovery Signals) در نظر بگیرید و ابتدا شناسایی کرده و سپس محدود کنید. - 2. نبود یک نقطه دید واحد:
ایجنت‌ها در شبکه‌ها، نقاط انتهایی (Endpoints)، مرورگرها و سرویس‌های SaaS پراکنده هستند. از آنجایی که ترافیک AI رمزنگاری شده (TLS) است، تحلیل شبکه به تنهایی کافی نیست. برای بازیابی دید، باید منابع مختلف از جمله DNS/SNI، اثرانگشت‌های JA4، تله‌متری مرورگر و لاگ‌های OAuth را با هم تطبیق (Correlate) داد. استفاده از LLM Gatewayهایی مانند LiteLLM می‌تواند کمک کند، اما فقط ایجنت‌های شناسایی شده را مدیریت می‌کند. - 3. ناکارآمدی ممیزی‌های سنتی:
ممیزی‌های سالانه یا دوره‌ای برای ایجنت‌هایی که در چند ثانیه مستقر یا کلون می‌شوند، بی‌فایده است. مهاجمان می‌توانند از این شکاف با ایجاد کلون‌های کوتاه‌مدت برای استخراج داده‌ها استفاده کنند. راهکار، نظارت مستمر (Continuous Monitoring) و تعریف هویت مجزا برای هر ایجنت است.
نتیجه‌گیری و استراتژی عملیاتی
دسترسی ایجنت‌ها به ابزارها باید به عنوان یک مسئله مجزای Identity و Policy Enforcement مدل‌سازی شود، نه به عنوان افزونه‌ای از کاربر deploying کننده. هر ایجنت باید هویت خاص خود را داشته باشد، مجوزها به تسک فعال محدود شوند و لایه‌ای از احراز هویت بین مدل و سرویس‌های متصل قرار گیرد. ثبت وقایع (Logging) نیز باید از ثبت صرف Promptها به سمت ثبت فراخوانی‌های ابزار (Tool Calls) و اقدامات ایجنت تغییر کند.
