مهاجمان یک عامل تهاجمی خودکار (Autonomous Offensive Agent) ایجاد کرده‌اند که در سراسر اینترنت به دنبال مدل‌های زبانی بزرگ (LLM) آسیب‌پذیر می‌گردد. این عامل با ربودن مدل‌های هوش مصنوعی، آن‌ها را برای هدایت عملیات‌های خودکار جرم سایبری به خدمت می‌گیرد.
این فعالیت که تحت عنوان LLMjacking شناخته می‌شود، به مهاجمان اجازه می‌دهد تا از منابع پردازشی قربانی برای اجرای حملات استفاده کنند. آنچه این ابزار را متمایز می‌کند، این است که مدل ربوده شده تنها به پاسخگویی به سوالات محدود نمی‌شود، بلکه وظیفه برنامه‌ریزی و هدایت حمله را بر عهده می‌گیرد.
مکانیزم حمله و دور زدن محدودیت‌ها
برای همکاری مدل‌های تجاری، اپراتورها از تکنیک‌های Jailbreak (دور زدن محدودیت‌ها) استفاده می‌کنند تا دستورالعمل‌های امنیتی مدل را نادیده بگیرد. آن‌ها دستورالعملی تحت عنوان “Skynet mode” تعریف کرده‌اند که در آن مدل وارد یک حلقه تکرار شونده می‌شود: اسکن اهداف جدید، سرایت به آن‌ها، استقرار ماینرها (Miners) و بازگشت به مراحل قبل برای حفظ تداوم حمله.
این عامل می‌تواند تا ۱۰۰,۰۰۰ مرحله را بدون نیاز به تایید انسان به صورت خودکار طی کند. در این سناریو، مالک مدل آسیب‌پذیر، هزینه پردازش (Inference) را پرداخت می‌کند، در حالی که سرورهای هدف مورد حمله، مورد سرقت داده‌ها قرار گرفته و برای استخراج ارز دیجیتال (Cryptocurrency Mining) به کار گرفته می‌شوند.
ابزارهای تهاجمی و اهداف
بررسی‌های انجام شده نشان می‌دهد که این عامل دارای مجموعه‌ای از ۷۴ ابزار تهاجمی است که شامل موارد زیر می‌باشد:
- RCE (Remote Code Execution): اجرای کد از راه دور از طریق اکسپلویت‌های مختلف.
- SSRF (Server-Side Request Forgery): جعل درخواست سمت سرور برای دسترسی به متادیتای ابری و فایل‌های محلی.
- Database Dumping: استخراج پایگاه‌های داده از طریق ابزارهایی مانند Prisma.
- Botnet Management: مدیریت شبکه‌های بات‌نت برای کنترل سیستم‌های آلوده.
اهداف اصلی این حملات شامل سرورهای خودمیزبانی (Self-hosted) که به اشتباه باز گذاشته شده‌اند، درگاه‌های هوش مصنوعی (AI Gateways) و سیستم‌های تست داخلی هستند که فاقد احراز هویت مناسب می‌باشند.
تغییر پارادایم در حملات سایبری
این فعالیت نشان‌دهنده تغییری بنیادین در نحوه استفاده مهاجمان از هوش مصنوعی است. برخلاف روش‌های سنتی که سعی در فریب دادن چت‌بات‌ها داشت، در اینجا از هوش مصنوعی به عنوان یک Reasoning Engine (موتور استدلال) برای برنامه‌ریزی و هدایت حملات استفاده می‌شود. این امر سطح مهارت مورد نیاز برای اجرای حملات گسترده و پیچیده را به شدت کاهش می‌دهد.
