در دنیای امروز، هوش مصنوعی (AI) سرعت شناسایی آسیب‌پذیری‌ها را به شدت افزایش داده است، اما فرآیند رفع این نقاط ضعف همچنان با چالش‌های سنتی روبروست. در حالی که یک عامل تهدید (Threat Actor) می‌تواند در کمترین زمان ممکن از شناسایی یک نقص به ساخت یک اکسپلویت (Exploit) فعال برسد، تیم‌های دفاعی همچنان باید مراحل پیچیده‌ای نظیر ارزیابی اثرات تجاری، تست سازگاری و دریافت تاییدیه برای اعمال وصله (Patch) را طی کنند.
شکاف میان شناسایی و رفع آسیب‌پذیری
استراتژی «سریع‌تر وصله کنید» (Patch Faster) به تنهایی برای مقابله با سرعت AI کافی نیست. در محیط‌های عملیاتی حساس، مانند پلتفرم‌های پرداخت، قطع سرویس برای اعمال یک وصله فوری ممکن است ریسکی بزرگتر از خودِ آسیب‌پذیری باشد. بنابراین، رویکرد بهینه این است که به جای تمرکز صرف بر سرعت Patching، بر کاهش سطح مواجهه (Exposure) تمرکز شود. این کار از طریق روش‌هایی مانند:
- بخش‌بندی شبکه (Segmentation)
- ایزوله‌سازی (Isolation)
- پیاده‌سازی کنترل‌های جبرانی (Compensating Controls)
- اتخاذ تصمیمات سریع‌تر در مورد ریسک‌های تجاری
انجام می‌شود تا پنجره اکسپلویت شدن تا زمان رفع نهایی بسته شود.
حاکمیت داده و همسویی مدیران ارشد
یکی از چالش‌های اصلی، تضاد منافع بین CIO و CISO است. در حالی که CIO ممکن است برای تحویل به‌موقع پروژه، ریسک‌های امنیتی را نادیده بگیرد، CISO با اعمال کنترل‌های سخت‌گیرانه ممکن است باعث کندی پروژه شود. راهکار برای این مشکل، ایجاد یک کمیته حاکمیت AI و داده است که در آن مالکان کسب‌وکار، CIO، CTO و CISO با هم روی معیارهای مشترک توافق کنند. در این مدل، ریسک‌های مادی باید یا رفع شوند و یا صراحتاً توسط مالک کسب‌وکار پذیرفته شوند.
چالش به‌روزرسانی‌های خاموش در مدل‌های AI
مدیریت تغییرات در AI با نرم‌افزارهای سنتی متفاوت است. در AI، ممکن است رابط کاربری یا شماره نسخه تغییری نکند، اما مدل زیرین به گونه‌ای تغییر کند که استدلال‌های متفاوتی ارائه دهد (Silent Updates). این موضوع می‌تواند منجر به تغییر در اولویت‌بندی آسیب‌پذیری‌ها یا تغییر در کدهای پیشنهادی توسط دستیارهای کدنویسی شود.
برای مقابله با این ریسک، استفاده از تست رگرسیون مبتنی بر ریسک (Risk-based Regression Testing) ضروری است. این روش شامل تعریف سناریوهای بحرانی و مقایسه خروجی‌های مدل با خط‌بیس‌های (Baselines) تایید شده است تا هرگونه تغییر در تفسیر ریسک یا مدیریت داده‌ها شناسایی شود.
مسئولیت‌پذیری در برابر عوامل AI
سازمان‌ها می‌توانند اختیارات را به یک عامل AI (AI Agent) تفویض کنند، اما هرگز نمی‌توانند مسئولیت‌پذیری (Accountability) را تفویض نمایند. در صورت بروز خطا توسط یک Agent، باید تفکیک دقیقی بین سه نقش وجود داشته باشد:
- مسئولیت مالی: بر عهده منبع تامین بودجه یا بیمه.
- مسئولیت عملیاتی: بر عهده تیم‌های IT، امنیت و حقوقی برای بازگردانی سرویس و بررسی رگولاتوری.
- پاسخگویی اجرایی: بر عهده مالک کسب‌وکاری که اجازه فعالیت به Agent را داده است.
ریسک Shadow AI و رویکرد اشتباه مسدودسازی
مسدود کردن ابزارهای AI بدون ارائه جایگزین‌های تایید شده، منجر به پدیده Shadow AI می‌شود؛ جایی که کارکنان و مهندسان برای حفظ بهره‌وری، از حساب‌های شخصی خود برای دسترسی به ابزارهایی مانند ChatGPT استفاده می‌کنند. این اقدام باعث از بین رفتن دید (Visibility) تیم امنیت می‌شود. رویکرد صحیح این است که محدودیت‌ها با جایگزین‌های بررسی‌شده (Vetted Alternatives) همراه باشند تا نیازهای بهره‌وری کسب‌وکار در چارچوب‌های امنیتی تامین شود.
