سازمان‌ها در سال ۲۰۲۶ سرعت бесسابقه‌ای در استقرار هوش مصنوعی (AI) در عملیات خود داشتند، اما اکنون با یک چالش جدی‌تر روبرو هستند: اثبات توانایی در مدیریت، ایمن‌سازی و بهره‌وری از این فناوری. طبق تحلیل‌های Omdia و Gartner، سال ۲۰۲۷ دوران «پاسخگویی» خواهد بود که در آن تمرکز از استقرار صرف به نمایش ارزش واقعی و بازگشت سرمایه (ROI) تغییر می‌کند.
مدیریت عوامل خودکار و ریسک‌های دسترسی
یکی از بحرانی‌ترین نقاط ضعف فعلی، نبود چارچوب‌های کنترلی برای Agentهای هوش مصنوعی است. گزارش‌ها نشان می‌دهد که بیش از ۵۴ درصد از سازمان‌ها هیچ رویکرد تعریف‌شده‌ای برای محدود کردن دسترسی این Agentها ندارند. با توجه به اینکه این سیستم‌ها اکنون به‌صورت خودکار عمل می‌کنند، خطر عملیاتی شدن تهدیدات افزایش یافته است.
- توصیه: مدیران امنیت (CISO) باید سیستم‌های چند-عاملی (Multi-agent systems) را بر اساس «امتیازات عملیاتی» (Action Privileges) مدیریت کنند تا در صورت بروز خطا، شعاع تخریب (Blast Radius) به حداقل برسد.
تکامل تهدیدات Deepfake و هویت
حملات مبتنی بر Deepfake اکنون به سطح «رایج» (Mainstream) رسیده‌اند. عوامل تهدید (Threat Actors)، از جمله گروه‌های دولتی، از این ابزار برای جعل هویت مدیران ارشد یا کارکنان IT جهت سرقت اعتبارنامه‌ها (Credentials) و کلاهبرداری‌های مالی استفاده می‌کنند.
برای مقابله با این تهدید، رویکرد تک‌لایه دیگر پاسخگو نیست. Gartner پیشنهاد می‌کند فرآیندهای شناسایی با ترکیب فناوری‌های تشخیص Deepfake و سیگنال‌های زمینه‌ای (Contextual Signals) مانند مکان دستگاه یا آدرس IP بازطراحی شوند.
امنیت زنجیره تأمین و Shadow AI
استفاده کارکنان از ابزارهای غیرمجاز (Shadow AI) و پیچیدگی زنجیره تأمین نرم‌افزاری، سطح حمله را گسترش داده است. برای مثال، فعالیت‌های گروه TeamPCP در هدف قرار دادن بسته‌های Litellm نشان داد که چگونه آسیب‌پذیری در اجزای متن‌باز (Open-source) می‌تواند منجر به سرقت گسترده اطلاعات شود.
مدیریت آسیب‌پذیری در عصر AI
۷۶ درصد از CISOها، شناسایی آسیب‌پذیری‌های مبتنی بر AI را یکی از ۱۰ ریسک نوظهور خود می‌دانند. برای کسب برتری دفاعی، سازمان‌ها باید به سمت اتوماسیون در حوزه‌های زیر حرکت کنند:
- دفاع هدف متغیر (Moving Target Defense)
- پنهان‌سازی پیشرفته (Advanced Obfuscation)
- سیستم‌های فریب (Deception)
- اطلاعات تهدید پیش‌بینانه (Predictive Threat Intelligence)
