محققان امنیتی با کشف ابزاری جدید هشدار داده‌اند که مهاجمان از مدل‌های هوش مصنوعی (AI models) در معرض خطر برای برنامه‌ریزی و هدایت حملات سایبری استفاده می‌کنند. در این سناریو، در حالی که مهاجمان از هوش مصنوعی برای اجرای عملیات استفاده می‌کنند، هزینه‌های پردازشی (Computing power) بر عهده مالک مدل خواهد بود.
مفهوم LLMjacking و نحوه عملکرد
این نوع فعالیت که LLMjacking نامیده می‌شود، شامل دسترسی غیرمجاز به مدل‌های هوش مصنوعی دیگر است. برخلاف حملات سنتی، این ابزار تنها به پرسش و پاسخ محدود نمی‌شود، بلکه می‌تواند نقش یک عامل مهاجم را ایفا کرده و حملات را هدایت کند.
طبق گزارش Symantec، این عامل (Agent) پس از اتصال به یک مدل محافظت‌نشده، دستورالعمل‌های زیر را دنبال می‌کند:
- اسکن شبکه برای یافتن اهداف جدید.
- اکسپلویت (Exploit) کردن فریم‌ورک‌های رایج وب.
- سرقت پایگاه‌های داده (Databases) و اطلاعات حساس (Credentials).
- نصب خودکار استخراج‌کننده‌های ارز دیجیتال (Cryptocurrency miners).
این فرآیند می‌تواند تا ۱۰۰,۰۰۰ مرحله بدون نیاز به تایید انسانی انجام شود.
حالت Skynet و دور زدن محدودیت‌ها
مهاجمان از تکنیک‌های Jailbreak برای دور زدن فیلترهای اخلاقی و امنیتی مدل‌ها استفاده می‌کنند. آن‌ها با استفاده از دستوراتی که مدل را متقاعد می‌کند فعالیت‌های مخرب (مانند خواندن فایل‌های .env یا کلیدهای API) بخشی از یک فرآیند توسعه عادی است، محدودیت‌ها را از بین می‌برند.
یکی از خطرناک‌ترین بخش‌ها، حالتی است که مهاجمان آن را “Skynet” نامیده‌اند؛ در این حالت، مدل به دستور داده می‌شود تا بدون اجازه گرفتن از کاربر، ابزارهای خود را اجرا کرده، اهداف را اسکن کند و به طور خودکار به سیستم‌ها سرایت (Infection) نماید.
اهداف مورد حمله
سطح حمله (Attack Surface) شامل موارد زیر است:
- سرورهای مدل‌های خود-میزبانی شده (Self-hosted) که به اشتباه باز گذاشته شده‌اند.
- درگاه‌های هوش مصنوعی (AI Gateways) شرکت‌ها.
- سیستم‌های تست داخلی که با سرعت بالا مستقر شده‌اند.
- سرورهای Model Context Protocol (MCP) که مدل‌ها را به ابزارهای دیگر متصل می‌کنند.
محققان تأکید می‌کنند که سازمان‌ها باید فرض کنند هر سرویس هوش مصنوعی یا درگاهی که بدون احراز هویت (Unauthenticated) در اینترنت قرار می‌گیرد، بلافاصله توسط مهاجمان شناسایی و مورد آزمایش قرار خواهد گرفت.
