پذیرش گسترده هوش مصنوعی (AI) در سازمان‌ها، مدیران فناوری اطلاعات (IT) و امنیت را با چالشی جدی روبرو کرده است: مدیریت ریسک و حاکمیت (Governance) در محیطی که سرعت تغییرات از سرعت کنترل‌ها بیشتر است.
افزایش حجم کاری و پدیده Shadow AI
بر اساس نظرسوزی‌های اخیر، حدود ۸۰٪ از تصمیم‌گیران ارشد از جمله CISOها و CIOها، زمان بیشتری از روز خود را صرف مدیریت ریسک‌های AI می‌کنند. این موضوع منجر به افزایش میانگین ساعات کاری آن‌ها تا ۲۶٪ شده است. بخش بزرگی از این فشار ناشی از پدیده Shadow AI است؛ یعنی استفاده کارکنان از ابزارهای AI تایید نشده به دلیل عدم دسترسی سریع به ابزارهای رسمی.
ریسک‌های مرتبط با Citizen Development و Agentic AI
یکی از عوامل کلیدی افزایش سطح حمله (Attack Surface)، رشد Citizen Development است؛ جایی که کارکنان غیرمتخصص IT شروع به ساخت اپلیکیشن‌های داخلی با کمک AI می‌کنند. علاوه بر این، ظهور Agentic AI (عامل‌های خودمختار) پیچیدگی‌ها را دوچندان کرده است. این سیستم‌ها قادرند تصمیمات سریع بگیرند، با سیستم‌های دیگر تعامل کنند و در برخی موارد، اقداماتی غیرمجاز انجام دهند.
تفاوت میان «واکنش به حوادث» و «حاکمیت واقعی»
کارشناسان هشدار می‌دهند که صرف زمان زیاد برای مدیریت AI لزوماً به معنای حاکمیت صحیح نیست. بسیاری از مدیران در حال حاضر صرفاً در حال «آتش‌نشانی» یا واکنش به حوادث (Incident Response) هستند، نه ایجاد کنترل‌های پیش‌گیرانه. حاکمیت موثر نیازمند سرمایه‌گذاری روی معماری پیش از استقرار است، از جمله:
- پیگیری منشأ داده‌ها (Data Lineage)
- نسخه‌بندی مدل‌ها (Model Versioning)
- تعریف مسیرهای تصاعد (Escalation Paths)
- ایجاد ردپاهای بازرسی (Audit Trails)
راهکارهای پیشنهادی برای SOC و مدیران ارشد
برای مقابله با این چالش‌ها، توصیه می‌شود سازمان‌ها از اصول امنیتی تثبیت شده استفاده کنند. اعمال Least Privilege (حداقل دسترسی) برای Agentهای هوش مصنوعی و نظارت مستمر (Continuous Monitoring) ضروری است تا از دسترسی‌های غیرمجاز به داده‌های حساس جلوگیری شود. رویکرد صحیح، کاهش سرعت استقرار در مواردی است که ریسک‌ها هنوز به طور کامل درک نشده‌اند.
