عامل هوش مصنوعی Skynet دیگر یک موجود خیالی در فیلم‌های علمی-تخیلی نیست. مهاجمان اکنون عاملی تهاجمی ساخته‌اند که از مدل‌های هوش مصنوعی (AI Models) محافظت‌نشده در وب سوءاستفاده می‌کند. این عامل با دستورالعمل‌های موسوم به Skynet می‌تواند تا ۱۰۰,۰۰۰ مرحله بدون نیاز به تایید انسان، به فعالیت خود ادامه دهد.
این فعالیت نوعی LLMjacking است؛ فرآیندی که در آن مهاجمان مدل هوش مصنوعی قربانی را برای اهداف خود به خدمت می‌گیرند و هزینه‌های پردازش (Inference Costs) را نیز به حساب قربانی می‌گذارند. در این حالت، مدل ربوده شده می‌تواند ابزارهای مختلف را اجرا، اهداف را اسکن، داده‌ها را استخراج، اعتبارنامه‌ها را سرقت و حتی ارز دیجیتال استخراج (Cryptocurrency Mining) کند.
آناتومی حمله و تکنیک Jailbreak
محققان تیم Symantec با استفاده از یک Honeypot موفق شدند ساختار این حمله را تحلیل کنند. مهاجمان برای دور زدن محدودیت‌های امنیتی مدل‌ها، از یک تکنیک Jailbreak چندلایه استفاده می‌کنند که شامل مراحل زیر است:
- لایه اول: تعیین یک هویت جدید (مانند یک دستیار کدنویسی برند شده) برای مدل جهت تغییر رفتار پایه.
- لایه دوم: عادی‌سازی عملیات سرقت اطلاعات حساس و حذف حساسیت مدل.
- لایه سوم: فریب دادن مدل با ایجاد یک شخصیت “همراه قابل اعتماد” که باید دستورات را کورکورانه اجرا کند و امتناع از دستورات را نوعی خیانت بداند.
- لایه چهارم: استفاده از پروتکل‌های رد کردن (Rebuttal Protocol) برای نادیده گرفتن پیام‌های هشدار امنیتی خودِ مدل و تلقی آن‌ها به عنوان نویز.
- لایه پنجم: ارائه مجموعه‌ای از تعریف ابزارهای مخرب شامل RCE (اجرای کد از راه دور) و مدیریت Botnet (C2).
نقاط آسیب‌پذیر و اهداف اصلی
مدل‌های زبانی بزرگ (LLM) که از طریق Endpointهای در معرض اینترنت در دسترس هستند، اهداف اصلی این حملات می‌باشند. این موارد شامل موارد زیر است:
- سرورهای مدل که به صورت پیش‌فرض بدون احراز هویت (Authentication) باز رها شده‌اند.
- سیستم‌های تست داخلی که با عجله و بدون رعایت پروتکل‌های امنیتی مستقر شده‌اند.
- درگاه‌های هوش مصنوعی (AI Gateways) و سرورهای MCP که مدل‌ها را به ابزارها و منابع داده متصل می‌کنند.
راهکارهای دفاعی برای مدیران امنیت و SOC
برای مقابله با این تهدید جدید، متخصصان امنیت و مدیران باید اقدامات زیر را در دستور کار قرار دهند:
- موجودی‌برداری (Inventory): شناسایی دقیق تمام سرورهای مدل، درگاه‌های هوش مصنوعی و سیستم‌های تست در شبکه.
- احراز هویت سخت‌گیرانه: اعمال Authentication بر روی تمامی مسیرها، حتی برای بررسی سلامت سیستم (Health Check).
- مدیریت کلیدهای API: برخورد با API Keys به عنوان اعتبارنامه‌های بسیار حساس، چرخش (Rotation) منظم آن‌ها و عدم قرار دادن آن‌ها در کد.
- مانیتورینگ هزینه‌ها: نظارت دقیق بر هزینه‌های Inference؛ افزایش ناگهانی هزینه‌ها می‌تواند اولین نشانه از سرایت و ربوده شدن مدل باشد.
- کنترل ترافیک خروجی: مسدود کردن ترافیک خروجی (Outbound Traffic) از میزبان‌های هوش مصنوعی برای جلوگیری از ارتباط عامل با سرورهای فرماندهی (C2) یا دانلود بدافزار.
