سازمان Mitre اعلام کرد که در به‌روزرسانی بعدی چارچوب ATT&CK که قرار است در بهار آینده منتشر شود، استراتژی‌های شناسایی و هوش تهدید (Threat Intelligence) بیشتری را برای مقابله با حملات مبتنی بر هوش مصنوعی (AI) اضافه خواهد کرد.
آدام پنینگتون (Adam Pennington)، مدیر این چارچوب، در کنفرانسی اعلام کرد که نسخه آوریل شامل ده‌ها تکنیک جدید مرتبط با هوش مصنوعی خواهد بود. با این حال، ساختار کلی چارچوب که بر اساس تاکتیک‌های هکری برای نفوذ به سیستم‌ها تعریف شده است، تغییر نخواهد کرد.
چالش تشخیص عامل‌های هوش مصنوعی
به گفته پنینگتون، عامل‌های هوش مصنوعی (AI Agents) که توسط انسان‌ها با استفاده از تکنیک‌های توسعه‌یافته توسط انسان آموزش دیده‌اند، از همان روش‌های هکرهای انسانی استفاده می‌کنند. این موضوع باعث می‌شود که مدافعان در بسیاری از موارد نتوانند تفاوت واقعی بین یک هکر انسانی و یک حمله توسط عامل هوش مصنوعی را تشخیص دهند. در واقع، تشخیص اینکه یک فعالیت ناشی از اسکریپت‌نویسی قدیمی است یا یک عامل هوش مصنوعی که به طور خودکار عمل می‌کند، بسیار دشوار است.
تنها تکنیک منحصربه‌فردی که در حال حاضر هوش مصنوعی قادر به انجام آن نیست، افزودن سخت‌افزار (Hardware Additions) است؛ زیرا مدل‌های زبانی بزرگ (LLMs) فاقد توانایی فیزیکی برای اتصال سخت‌افزارهای مخرب به سیستم‌ها هستند.
تفاوت ATT&CK و ATLAS
Mitre از تکنیک‌های چارچوب اختصاصی خود یعنی ATLAS نیز بهره خواهد برد. برخلاف ATT&CK که بر تکنیک‌های واقعی و مستند در دنیای واقعی تمرکز دارد، ATLAS شامل تکنیک‌هایی است که توسط تیم‌های قرمز (Red Teams) توسعه یافته و هنوز در حملات واقعی مشاهده نشده‌اند. با این حال، پنینگتون تأکید کرد که تنها تکنیک‌های مستند و واقعی به ATT&CK منتقل خواهند شد.
در حال حاضر، نسخه ۲۰ این چارچوب شامل برخی تکنیک‌های مرتبط با هوش مصنوعی مانند تزریق دستور (Prompt Injection) و خروج داده با کمک هوش مصنوعی (AI-enabled Exfiltration) است.
هوش مصنوعی به عنوان یک پلتفرم رسمی
در نسخه ۲۱، برنامه‌های بلندپروازانه‌تری در نظر گرفته شده است. هوش مصنوعی قرار است به عنوان یک پلتفرم شناخته‌شده در ماتریس سازمانی (Enterprise Matrix) قرار گیرد و در کنار پلتفرم‌هایی مانند ویندوز (Windows) و کانتینرها (Containers) قرار بگیرد. تیم Mitre همچنان بر اینکه فرآیند تحلیل و تدوین این چارچوب باید توسط انسان انجام شود، تأکید دارد و از استفاده مستقیم از مدل‌های زبانی بزرگ برای تولید تحلیل‌های امنیتی خودداری می‌کند، چرا که کیفیت تحلیل‌های تولید شده توسط هوش مصنوعی اغلب پایین است.
