تمایل کارکنان برای ادغام هوش مصنوعی ایجنتی (Agentic AI) در جریان کاری خود، منجر به پدیده‌ای شده است که در آن کاربران بدون کسب مجوز از بخش IT، اقدام به ساخت ایجنت‌های شخصی خود می‌کنند. این روند اگر توسط مدیران امنیت و فناوری مدیریت نشود، می‌تواند پیامدهای مخربی برای سازمان‌ها به همراه داشته باشد.
گستره نفوذ ایجنت‌های غیرمجاز
طبق نظرسنجی اخیر Howdy.com، دو سوم از کارکنان بخش دانش (Knowledge Workers) که از هوش مصنوعی استفاده می‌کنند، از ایجنت‌ها بهره می‌برند و ۱۶ درصد آن‌ها شخصاً اقدام به ساخت ایجنت‌های خود کرده‌اند. نکته نگران‌کننده این است که ۷ درصد از این کاربران گزارش کرده‌اند برخی از ایجنت‌های ساخته شده توسط آن‌ها «سرکش» (Rogue) شده و رفتارهای غیرمنتظره‌ای از خود نشان داده‌اند.
ریسک‌های فنی و امنیتی
ایجاد ایجنت‌های سایه (Shadow Agents) چالش‌های جدی را برای تیم‌های SOC و مدیران امنیت ایجاد می‌کند. برخی از کلیدی‌ترین نگرانی‌ها عبارتند از:
- مدیریت دسترسی‌ها: استفاده از کلیدهای API (API Keys) بدون نظارت و دسترسی به داده‌های رمزنگاری شده.
- نشت داده‌ها: اتصال ایجنت‌ها به سیستم‌های داخلی مانند CRM برای استخراج اطلاعات مشتریان و جابه‌جایی داده‌ها بین سیستم‌ها بدون کنترل‌های امنیتی استاندارد.
- انطباق و استانداردهای قانونی: تأثیر این ابزارهای غیرمجاز بر استانداردهایی مانند SOC2.
راهکارها: از محدودیت تا حاکمیت (Governance)
کارشناسان معتقدند مسدود کردن کامل این ابزارها واقع‌بینانه نیست، زیرا موانع ساخت این ابزارها در حال کاهش است. در عوض، استراتژی‌های زیر پیشنهاد می‌شود:
- ایجاد محیط‌های ایزوله (Digital Playground): فراهم کردن بسترهایی که کارکنان بتوانند در آن نوآوری کنند، در حالی که تیم IT دید کامل (Visibility) نسبت به هزینه‌ها و نحوه استفاده از داده‌ها داشته باشد.
- پیاده‌سازی گاردریل‌ها (Guardrails): تعریف سیاست‌های شفاف و راهنمای سیستم برای اطمینان از اینکه ایجنت‌ها در چارچوب‌های امنیتی تعریف شده عمل می‌کنند.
- پایش مستمر: شناسایی ایجنت‌های موفق در سطح فردی و تبدیل آن‌ها به قابلیت‌های سازمانی استاندارد و امن.
در نهایت، هدف از حاکمیت هوش مصنوعی (AI Governance) نباید تنها جلوگیری از پیامدهای منفی باشد، بلکه باید مسیری برای تبدیل ایده‌های نوآورانه فردی به قابلیت‌های سازمانی مقیاس‌پذیر و امن ایجاد کند.
