گزارش جدید مؤسسه Forrester Research هشدار می‌دهد که هوش مصنوعی در حال ایجاد انواع جدیدی از ریسک‌ها و نقاط شکست در سازمان‌ها است. این وضعیت نیازمند رویکردی برای تاب‌آوری (Resilience) است که فراتر از دستورالعمل‌های سنتی بازیابی پس از فاجعه (Disaster Recovery) باشد.
نقص‌های نرم‌افزاری تولید شده توسط AI و بحران وصله‌گذاری
تحلیلگران هشدار می‌دهند که یک نقص نرم‌افزاری که توسط هوش مصنوعی تولید شده باشد، می‌تواند منجر به قطعی‌های جهانی (Global Outage) شود. با افزایش سرعت شناسایی آسیب‌پذیری‌ها توسط ابزارهای AI، فشار برای وصله‌گذاری (Patching) سریع سیستم‌ها افزایش یافته است. برای مثال، مایکروسافت در به‌روزرسانی‌های امنیتی سپتامبر و اکتبر ۲۰۲۶، به ترتیب نزدیک به ۱۰۰۰ و ۱۴۰۰ آسیب‌پذیری را برطرف کرد.
این حجم بالای به‌روزرسانی‌ها باعث می‌شود فرآیندهای تضمین کیفیت (QA) نادیده گرفته شوند. پیش‌بینی می‌شود که یک باگ یا رگرسیون (Regression) تولید شده توسط AI، بتواند قطعی‌هایی در مقیاس حادثه CrowdStrike در جولای ۲۰۲۴ ایجاد کند. بنابراین، صنعت فناوری باید به جای تغییرات رویه‌ای، به دنبال تغییرات ساختاری در نحوه توسعه و استقرار نرم‌افزار باشد.
حاکمیت AI و مسئولیت‌های مدیریتی
یکی از پیش‌بینی‌های کلیدی، احتمال بروز دعاوی حقوقی به دلیل سهل‌انگاری در تصمیمات مبتنی بر AI است که می‌تواند منجر به تغییر در مدیریت ارشد یا برکناری مدیرعامل (CEO) شود. مسئله اصلی این است که آیا مدیران پیش از واگذاری تصمیمات حیاتی به سیستم‌هایی که قابل توضیح نیستند، قضاوت آگاهانه‌ای داشته‌اند یا خیر.
تأکید می‌شود که AI می‌تواند در تحقیق و بررسی‌های لازم (Due Diligence) کمک کند، اما هرگز نباید جایگزین قضاوت انسانی شود. هیئت مدیره و مدیران ارشد باید بتوانند توضیح دهند که هر تصمیم چگونه اتخاذ شده و چه میزان نظارت انسانی (Human Oversight) در این مسیر صورت گرفته است.
اقتصاد توکن‌ها و ریسک‌های تغییر مدل
پیش‌بینی می‌شود هزینه توکن‌های (Token spending) مرتبط با امنیت در سال ۲۰۲۷ به ۱.۵ میلیارد دلار برسد که بخش اعظم آن مربوط به عملیات امنیت (SecOps) و امنیت اپلیکیشن (AppSec) خواهد بود. با ادغام AI در محصولات امنیتی، هزینه توکن‌ها احتمالاً به یک ردیف مجزا در بودجه سازمان‌ها تبدیل خواهد شد.
همچنین، تلاش برای کاهش هزینه‌ها از طریق تغییر مدل‌های AI (مثلاً انتقال به مدل‌های ارزان‌تر از ارائه‌دهندگان مختلف) ریسک‌های جدیدی ایجاد می‌کند. مدل‌های ارزان‌تر ممکن است همان لایه‌های حفاظتی (Safeguards) مدل‌های تست شده را نداشته باشند و این تغییرات بدون بررسی دقیق، می‌تواند منجر به نشت داده‌ها (Data Breach) شود.
انطباق با قوانین و اختلالات فیزیکی
در اروپا، دستورالعمل NIS2 سازمان‌ها را ملزم می‌کند که اختلالات قابل توجه را ظرف ۲۴ ساعت گزارش کنند. این الزام تنها محدود به حملات سایبری نیست و بلایای طبیعی که منجر به قطعی خدمات حیاتی می‌شوند نیز مشمول این قانون هستند. سازمان‌ها باید برنامه‌های هماهنگی دقیقی بین تیم‌های امنیت، IT و مدیریت تأسیسات برای مقابله با قطعی‌های با علت فیزیکی داشته باشند.
در نهایت، در حالی که AI دسترسی به ابزارهای جدیدی را فراهم می‌کند، رهبران فناوری نباید از تهدیدات کلاسیک غافل شوند. پیش‌بینی می‌شود بزرگ‌ترین نشت داده‌های سال ۲۰۲۷ همچنان ناشی از موارد ساده و سنتی مانند سرقت اعتبارنامه‌ها (Stolen Credentials) باشد و لزوماً با AI مرتبط نباشد.
