بات‌نت‌ها و مسموم‌سازی داده‌ها؛ بزرگ‌ترین نگرانی‌های مدیران در حوزه امنیت هوش مصنوعی

در حالی که سازمان‌ها سرمایه‌گذاری‌های گسترده‌ای را در حوزه هوش مصنوعی (AI) آغاز کرده‌اند، نتایج نظرسنجی جدید نشان می‌دهد که حملات علیه سیستم‌های AI، بزرگ‌ترین شکاف آمادگی در سازمان‌هاست. در بررسی انجام شده توسط PwC روی نزدیک به ۴ هزار مدیر فناوری و امنیت در ۷۱ کشور، نیمی از مدیران ارشد، حملات متوجه AI را در ردیف پنج مورد از بحرانی‌ترین نقاط ضعف آمادگی خود قرار داده‌اند.

برجسته‌ترین تهدیدات AI از دیدگاه مدیران

بیش از نیمی از شرکت‌کنندگان، سه نوع حمله را به عنوان اولویت‌های خطرناک شناسایی کردند:

• بات‌نت‌های هدایت شده توسط AI: شبکه‌هایی از سیستم‌های آلوده که توسط هوش مصنوعی در مقیاس وسیع مدیریت می‌شوند.
• حملات تقابلی (Adversarial Attacks): تغییرات نامحسوس در ورودی‌های سیستم AI برای گمراه کردن مدل و دریافت پاسخ‌های نادرست.
• مسموم‌سازی داده‌ها (Data Poisoning): تزریق داده‌های گمراه‌کننده به مجموعه‌داده‌های آموزشی مدل برای تخریب عملکرد آن.

تحلیل‌ها نشان می‌دهد که مدل‌های پیشرو (Frontier Models) اکنون قادرند نقص‌های نرم‌افزاری ناشناخته را شناسایی کرده و با کمترین دخالت انسانی، آن‌ها را Exploit کنند.

شکاف میان بودجه و برنامه‌ریزی عملیاتی

اگرچه ۸۴ درصد از مدیران امنیت و مالی انتظار افزایش بودجه‌های سایبری را دارند و AI را در اولویت تخصیص منابع قرار داده‌اند، اما وضعیت برنامه‌ریزی برای تداوم کسب‌وکار (Business Continuity) نگران‌کننده است. تنها ۳۹ درصد از سازمان‌ها دارای برنامه‌های رسمی و مستند برای مدیریت حوادث سایبری هستند و تقریباً یک‌چهارم آن‌ها هیچ برنامه‌ای برای بازیابی عملیات حیاتی پس از حمله ندارند.

چالش‌های مدیریت داده و اعتماد

بسیاری از سازمان‌ها در پیاده‌سازی معیارهای مدیریت ریسک داده ناکام بوده‌اند. تنها حدود نیمی از شرکت‌ها سیستم طبقه‌بندی داده‌ها (Data Classification) را اجرا کرده‌اند تا بدانند کدام داده‌ها حساس هستند. با توجه به اینکه اعتمادپذیری AI مستقیماً به کیفیت داده‌های زیرساختی وابسته است، بررسی دسترسی‌های مدل‌های AI به داده‌ها و نحوه حفاظت از آن‌ها حیاتی است.

تردید در استفاده از Agentهای خودکار

در حوزه دفاعی، کمتر از ۲۵ درصد مدیران اجازه می‌دهند Agentهای هوش مصنوعی (نرم‌افزارهایی که به‌طور مستقل اقدام می‌کنند) بدون تایید انسانی، حملات را مهار یا رفع کنند. دلایل اصلی این تردید، عدم بلوغ فناوری و عدم اطمینان از قابلیت اطمینان (Reliability) این ابزارهاست. با توجه به اینکه خروجی‌های Agentها احتمالی (Probabilistic) هستند و تضمینی برای صحت ۱۰۰ درصدی ندارند، توصیه می‌شود در فرآیندهایی که دقت مطلق الزامی است، حتماً یک لایه کنترل انسانی یا سیستمی مستقل برای تایید نهایی قرار گیرد.