پتانسیل هوش مصنوعی در تبدیل مهاجمان مبتدی به متخصصان حمله به زیرساخت‌های حیاتی

هوش مصنوعی (AI) هنوز نتوانسته است مهاجمان مبتدی (Script Kiddies) را مستقیماً به مهاجمان سطح بالا و دولتی (Nation-state attackers) تبدیل کند، اما کارشناسان امنیت فناوری عملیاتی (OT) هشدار می‌دهند که این پتانسیل به سرعت در حال شکل‌گیری است. با پیشرفت مدل‌های هوش مصنوعی، فرآیند شناسایی (Reconnaissance) و هدف قرار دادن زیرساخت‌های حیاتی مانند شبکه‌های برق، سیستم‌های آب‌رسانی و تاسیسات صنعتی بسیار آسان‌تر و سریع‌تر شده است.

کاهش موانع فنی در حملات به زیرساخت‌های OT

استیو سویک، مدیر سابق امنیت اطلاعات (CISO) در American Electric Power، اشاره کرد که سال‌ها امنیت از طریق پنهان‌کاری (Security by obscurity) در بخش تاسیسات عمومی تامین می‌شد، اما اکنون دانش مورد نیاز برای انجام این حملات به شدت در دسترس قرار گرفته است. پل شاور، از متخصصان Armadin، توضیح داد که هوش مصنوعی می‌تواند اسناد فنی و دفترچه‌های راهنمای کنترل‌کننده‌های اتوماسیون (Automation Controllers) را به سرعت تحلیل کرده و نقاط ضعف طراحی (Design flaws) را برای اکسپلویت (Exploit) پیدا کند.

یافته‌های گزارش Frenos درباره توانمندی مدل‌های زبانی بزرگ

گزارش جدید شرکت Frenos که بر روی مدل‌های زبانی بزرگ (LLM) انجام شده، نتایج نگران‌کننده‌ای را نشان می‌دهد. در این تحقیق، حدود ۱۷,۰۰۰ تست برای ارزیابی توانایی مدل‌ها در برنامه‌ریزی حمله انجام شد:

• موفقیت در برنامه‌ریزی: قوی‌ترین مدل‌های پیشرو (Frontier models) در حدود ۹۰ درصد از تلاش‌های خود برای ایجاد یک نقشه حمله عملیاتی موفق بودند.
• تنوع مدل‌ها: مدل‌های با وزن باز (Open-weight models) نیز توانایی‌های قابل توجهی در مراحل برنامه‌ریزی نشان دادند.
• چالش توهم (Hallucinations): با وجود توانایی بالا، مدل‌ها همچنان مستعد خطا و توهم هستند که در دنیای واقعی ممکن است باعث شکست نقشه حمله شود.

با این حال، متخصصان معتقدند که ترکیب هوش مصنوعی با قضاوت انسانی می‌تواند شکاف‌های موجود در برنامه‌های حمله را پر کرده و آن‌ها را بسیار خطرناک‌تر کند.

توصیه‌های دفاعی برای مدیران امنیت و SOC

برای مقابله با این تهدیدات نوظهور، کارشناسان بر اتخاذ استراتژی‌های دفاع لایه‌ای (Layered defense) تاکید دارند، از جمله:

• بخش‌بندی شبکه‌ها (Network Segmentation)
• محدود کردن دسترسی‌های از راه دور (Remote Access) و سطوح دسترسی کاربران
• بررسی و تست مداوم برنامه‌های تداوم کسب‌وکار و بازیابی پس از فاجعه (Disaster Recovery)