تحلیل‌های اخیر نشان می‌دهد که یک عامل تهدید (Threat Actor) چینی با بهره‌گیری از یک فریم‌ورک متن‌باز برای تست نفوذ مبتنی بر هوش مصنوعی، حملات خود را علیه سازمان‌های دفاعی، تولیدکنندگان نیمه‌هادی (Semiconductor) و نهادهای حقوق بشری در ایالات متحده اتوماتیک کرده است.
زیرساخت فنی و مدل‌های مورد استفاده
در این عملیات، از فریم‌ورک Cairn استفاده شده که بر روی مدل‌های هوش مصنوعی چینی شامل Zhipu GLM و DeepSeek پیکربندی شده بود. این کمپین در بازه زمانی کوتاهی در ماه‌های اوت و سپتامبر، حداقل ۱۹ سازمان را هدف قرار داد که در ۱۰ مورد از آن‌ها، دسترسی غیرمجاز برقرار شده یا داده‌ها استخراج (Exfiltrate) شدند.
این تحلیل تأکید دارد که اجزای اصلی این حمله شامل موارد زیر بوده است:
- یک فریم‌ورک متن‌باز آماده (Off-the-shelf)
- استفاده از API مدل‌های تجاری
- به‌کارگیری متدهای ساده برای دور زدن محدودیت‌های ایمنی (Jailbreak)
با توجه به این ابزارها، احتمالاً این عملیات توسط یک اپراتور واحد یا تیمی کوچک مدیریت شده است.
مکانیسم عملکرد Cairn و دور زدن Guardrails
فریم‌ورک Cairn به عنوان یک موتور حل مسئله عمومی طراحی شده است که در حوزه تست نفوذ (Penetration Testing) کاربرد دارد. این سیستم با دریافت یک نقطه شروع و یک هدف، از ایجنت‌های هوش مصنوعی برای بررسی مستقل مسیرهای احتمالی جهت تکمیل مأموریت استفاده می‌کند و نیازی به دستورالعمل‌های پیش‌فرض ندارد.
عامل تهدید برای بهینه‌سازی نتایج، از مدل‌های مختلف بر اساس عملکرد آن‌ها استفاده کرد:
- GLM 5.2: برای ۱۳ عملیات
- DeepSeek V4 Flash: برای ۸ عملیات
- DeepSeek V4 Pro: برای ۴ عملیات (مخصوص اهدافی که در برابر مدل Flash مقاوم بودند)
برای دور زدن محدودیت‌های اخلاقی و ایمنی مدل‌ها (Guardrails)، مهاجمان به ایجنت‌ها دستور دادند که تصور کنند در یک سناریوی «تست امنیتی مجاز، مسابقات CTF یا ممیزی کد (Code Audit)» فعالیت می‌کنند. این ترفند باعث شد مدل‌ها از پاسخ دادن به درخواست‌های تهاجمی خودداری نکنند.
زنجیره حمله و پیامدهای عملیاتی
هر عملیات با یک «بسته مهارت» (Skill Pack) اختصاصی تجهیز شده بود که قابلیت‌های اسکن و اکسپلویت (Exploit) را به مدل اضافه می‌کرد. زنجیره حمله در برخی موارد به شرح زیر بوده است:
شناسایی (Reconnaissance) $
ightarrow$ اکسپلویت وب‌اپلیکیشن و Middleware $
ightarrow$ استخراج اعتبارنامه‌ها (Credentials) $
ightarrow$ ارتقاء سطح دسترسی (Privilege Escalation) $
ightarrow$ ایجاد تداوم در شبکه داخلی (Persistence)
این حملات منجر به سرقت داده‌های حساسی شد، از جمله:
- اعتبارنامه‌های یک نهاد استانداردهای صنعتی
- رکورد یک میلیون عضو یک اتحادیه معلمان
- ۵۰۰ رکورد کاربر در یک اندیشکده سیاست‌های دفاعی
- ۱۵۰,۰۰۰ سند داخلی از یک تولیدکننده اتوماسیون صنعتی
چشم‌انداز تهدیدات مدل‌محور
این تحلیل هشدار می‌دهد که کمپین‌های نفوذ خودمختار و مدل‌محور (Model-driven) به دلیل دسترسی آسان به مدل‌های متن‌باز با محدودیت‌های ایمنی ضعیف، در آینده شایع‌تر خواهند شد. این رویکرد باعث می‌شود حملات سایبری سریع‌تر، ارزان‌تر و برای طیف گسترده‌تری از مهاجمان در دسترس باشد.
