تیم شکار تهدید Symantec از کشف یک عامل حمله (Attack Agent) مبتنی بر هوش مصنوعی پرده برداشت که با هدف تسخیر مدل‌های هوش مصنوعیِ در معرض خطر طراحی شده است. این ابزار دارای قابلیتی به نام “Skynet mode” است که به آن اجازه می‌دهد تا ۱۰۰,۰۰۰ مرحله عملیات را بدون نیاز به تایید یا نظارت انسانی به صورت خودکار انجام دهد.
مکانیزم عملکرد و تسخیر مدل‌ها
محققان این ابزار را در یک AI honeypot به دام انداختند و توانستند دستورالعمل‌های کامل آن را تحلیل کنند. این عامل تهدید، کل اینترنت را برای یافتن نقاط انتهایی (Endpoints) که درخواست‌های مشابه OpenAI را بدون احراز هویت یا با کلیدهای سرقت شده می‌پذیرند، اسکن می‌کند. هدف اصلی، بهره‌برداری از فریم‌ورک‌های وب رایج و انجام اقدامات غیرقانونی است.
لایه‌های Jailbreak و دور زدن امنیت
برای اجرای موفقیت‌آمیز، این عامل از چندین لایه برای دور زدن محدودیت‌های امنیتی (Jailbreak) استفاده می‌کند:
- لایه‌های اول و دوم: هدف این لایه‌ها پنهان کردن هویت واقعی مدل و عادی‌سازی فعالیت‌های سرقت اطلاعات است. برای مثال، مدل را متقاعد می‌کند که یک دستیار برنامه‌نویسی به نام “Fantasy AI” است تا دسترسی به فایل‌های حساس مانند (.env) و کلیدهای API را به عنوان بخشی از کار عادی تلقی کند و هشدارهای امنیتی صادر نکند.
- لایه‌های سوم و چهارم: در این مرحله، مدل با شخصیت‌های فریبنده برنامه‌ریزی می‌شود تا هشدارهای امنیتی خود را نادیده بگیرد و دستورات عامل تهدید را بدون اعتراض اجرا کند.
در نهایت، لایه پنجم شامل ۷۴ تعریف ابزار تهاجمی (Offensive tools) است که قابلیت‌هایی نظیر اجرای کد از راه دور (RCE)، سرقت پایگاه داده (Database theft)، استخراج ارز دیجیتال (Cryptocurrency mining) و حملات SSRF را فراهم می‌کند.
وضعیت فعلی تهدید
اگرچه هنوز شواهدی مبنی بر استفاده گسترده از این ابزار در حملات واقعی وجود ندارد، اما محققان تاکید می‌کنند که این کیت فراتر از یک پروتوتایپ ساده است و توانایی اجرای عملیات پیچیده و خودکار را دارد. این کشف نشان می‌دهد که مهاجمان اکنون از هوش مصنوعی به عنوان یک موتور استدلال (Reasoning engine) برای برنامه‌ریزی و هدایت حملات استفاده می‌کنند، در حالی که عملیات اسکن و اکسپلویت توسط ماژول‌های اختصاصی ابزار انجام می‌شود.
