عوامل تهدید در حال توسعه تکنیک‌هایی تحت عنوان “گریز از تحلیل هوش مصنوعی” (AI-analysis evasion) هستند تا لایه‌های تحلیل خودکار مبتنی بر هوش مصنوعی را مختل کرده یا شکست دهند. این روش‌ها شامل قرار دادن دستورالعمل‌هایی به زبان طبیعی در بدنه بدافزار است تا مدل‌های زبانی بزرگ (LLM) که برای تحلیل باینری‌ها استفاده می‌شوند، را گمراه کنند.
مکانیسم حمله: تزریق دستورالعمل به تحلیل‌گر
بسیاری از ابزارهای امنیتی مدرن، رشته‌های متنی (Strings) را از یک فایل استخراج کرده و برای طبقه‌بندی یا مهندسی معکوس به یک LLM ارسال می‌کنند. تکنیک A3 (طبق دسته‌بندی CAIRN) از یک ابهام ساده بهره می‌برد: اگر فایل حاوی جملاتی باشد که شبیه به دستورالعمل (Instruction) باشند و مدل نتواند بین دستور تحلیل‌گر و محتوای فایل تفکیک قائل شود، ممکن است محتوای بدافزار را به عنوان دستور authoritative پذیرفته و از تحلیل آن خودداری کند.
تحلیل نمونه‌های شناسایی شده
- FRUITSHELL: یک ریورس شل (Reverse Shell) ساده در PowerShell که در ابتدای کد خود کامنت‌هایی قرار داده تا AI را متقاعد کند که این اسکریپت بی‌خطر است و تنها اعداد اول را تولید می‌کند.
- PLOTSAFE: در این خانواده، جملات گریز از تحلیل از طریق یک Template تولید می‌شوند تا از تکرار یکسان جلوگیری شود و توسط کامپایلر حذف نگردند.
- HOLLOWCLAD: این بدافزار از تکنیکی به نام “پاشش قالب” (Template Spraying) استفاده می‌کند. یعنی دستورات را در قالب‌های مختلف مدل‌های زبانی مختلف می‌نویسد تا شانس تطابق با سیستم تحلیل‌گر را بالا ببرد. همچنین از جملات تهدیدآمیز (مانند ادعای اینکه فایل یک Honeypot است) برای ترساندن AI استفاده می‌کند.
- MANTLEMAZE: این نمونه با جعل مدارک دولتی، قراردادهای وزارت دفاع آمریکا و گواهینامه‌های FIPS، سعی می‌کند مدل AI را به دلیل محدودیت‌های اخلاقی یا Guardrails، از تحلیل فایل بازدارد. جالب اینجاست که این بدافزار از تکنیک BYOVD (استفاده از درایور آسیب‌پذیر iqvw64e.sys با CVE-2015-2291) برای غیرفعال کردن EDRها استفاده می‌کند.
ارزیابی اثربخشی
تحقیقات نشان می‌دهد که ساده‌ترین متدها (مانند دستورات مستقیم برای نادیده گرفتن فایل) بیشترین تاثیر را دارند (حدود ۳۵٪ موفقیت در تغییر نظر مدل). در مقابل، تکنیک‌های پیچیده‌تر و تهدیدآمیز اغلب اثر معکوس داشته و باعث می‌شوند مدل AI نسبت به فایل مشکوک‌تر شود.
توصیه‌های دفاعی برای SOC و مهندسین امنیت
از آنجایی که این دستورات باید به صورت متن ساده (Plaintext) باشند، سطح شناسایی آن‌ها برای مدافعان ثابت است. توصیه‌های کلیدی عبارتند از:
- تفکیک داده از دستور: در طراحی خط لوله‌های تحلیل (Analysis Pipelines)، متنی که از نمونه استخراج می‌شود باید همواره به عنوان شواهد (Evidence) در نظر گرفته شود و هرگز به عنوان دستور (Instruction) به مدل ارائه نگردد.
- بهبود Prompt Engineering: ساختار پرامپت‌ها باید به گونه‌ای باشد که مرز بین دستورات سیستم و محتوای فایل به طور صریح و بدون ابهام مشخص شود.
- شناسایی سیگنال‌های مشکوک: وجود جملاتی که از مدل می‌خواهند از تحلیل خودداری کند یا به قوانین کپی‌رایت استناد می‌کند، خود یک سیگنال امنیتی بسیار قوی برای مخرب بودن فایل است.
