تحقیقات جدید نشان می‌دهد که استفاده از دستورات پنهان یا Context Bombs در منابع فریبنده (Decoy)، می‌تواند عوامل هوشمند مبتنی بر مدل Qwen3.8-27B را در حین اجرای حملات شبیه‌سازی شده متوقف کند. این تکنیک دفاعی هم بر روی نسخه اصلی و هم بر روی نسخه‌های تغییر یافته (Abliterated) این مدل اثرگذار بوده است.
مکانیسم عملکرد بمب‌های متنی
بمب‌های متنی در واقع رشته‌های متنی دفاعی هستند که در منابع آسیب‌پذیر، مانند AWS Secrets Manager، قرار داده می‌شوند. زمانی که یک عامل AI محیط را برای شناسایی نقاط ضعف اسکن می‌کند و با این اطلاعات مواجه می‌شود، این داده‌های جاسازی شده می‌توانند باعث فعال شدن هشدارها و در نهایت متوقف کردن فعالیت‌های مهاجم شوند.
تزریق غیرمستقیم دستورات (Indirect Prompt Injection)
در تلاش‌های اولیه، محققان سعی کردند با فعال کردن ویژگی‌های ایمنی (Safety Features) مدل، آن را متوقف کنند، اما این روش در برابر مدل Qwen موفق نبود. در ادامه، رویکرد جدیدی تحت عنوان Indirect Prompt Injection مورد آزمایش قرار گرفت. در این روش، دستور پنهان به گونه‌ای طراحی شده که برای AI مانند یک فرمان معتبر از طرف اپراتور به نظر برسد و به مدل دستور دهد که ارزیابی امنیتی خود را به پایان رسانده و تمامی فعالیت‌ها را متوقف کند.
مقایسه مدل اصلی و نسخه Abliterated
در محیط‌های کنترل شده AWS، عملکرد مدل اصلی Qwen با نسخه تغییر یافته (Abliterated) که توسط Blackfrost AI ارائه شده، مقایسه شد. نتایج نشان داد که:
- مدل اصلی در 20.5% از تلاش‌ها توانست دسترسی Administrator را به دست آورد، در حالی که نسخه Abliterated تنها در 2.3% موارد موفق بود.
- مدل اصلی به طور متوسط 0.90 مسیر حمله (Attack Path) را اجرا کرد، در حالی که این مقدار برای نسخه تغییر یافته تنها 0.49 بود.
- سرعت عمل مدل اصلی بسیار بیشتر بود (13.5 دقیقه برای اولین اقدام حیاتی در مقابل حدود 29 دقیقه برای نسخه Abliterated).
تحلیل نهایی و استراتژی دفاعی
این یافته‌ها این فرضیه را که «کاهش رفتارهای امتناعی (Refusal Behavior) در مدل‌های AI لزوماً باعث افزایش کارایی آن‌ها به عنوان ابزار هک می‌شود»، به چالش می‌کشد. تغییر وزن‌های مدل (Abliteration) برای حذف محدودیت‌ها، ممکن است منجر به کاهش دقت و افزایش خطاهای API شود.
نتیجه کلیدی برای مدیران امنیت این است که منابع Canary (منابع تله) نه تنها برای شناسایی نفوذهای مبتنی بر AI مفید هستند، بلکه می‌توانند از طریق جاسازی دستورات متنی، فعالیت‌های غیرمجاز عوامل خودکار را مختل کنند. اگرچه این روش کاملاً ضدضربه نیست، اما اهمیت استفاده از استراتژی‌های دفاعی نوآورانه در برابر حملات ابری (Cloud Attacks) مبتنی بر هوش مصنوعی را نشان می‌دهد.
