مهاجمان در حال تغییر استراتژی خود هستند و اکنون به جای تکیه بر ابزارهای سنتی مدیریت سیستم مانند PowerShell، از سیستم‌های هوش مصنوعی برای اجرای حملات استفاده می‌کنند. این روند که برخی کارشناسان آن را «Living off the AI land» می‌نامند، به معنای سوءاستفاده از همان ابزارهای مشروع AI است که سازمان‌ها برای بهره‌وری به آن‌ها وابسته‌اند.
سوءاستفاده از سرورهای MCP و زنجیره تأمین
یکی از متدهای جدید، هدف قرار دادن پروتکل‌های زمینه مدل یا MCP (Model Context Protocol) است. سرورهای MCP به عامل‌های AI اجازه می‌دهند به منابع داده و ابزارهای خارجی متصل شوند. مهاجمان با ایجاد سرورهای MCP جعلی و توزیع آن‌ها در مخازنی مانند node.js، موفق شده‌اند داده‌های حساس مانند بازنشانی رمز عبور و یادداشت‌های داخلی را به صورت مخفیانه استخراج کنند. این نوع حمله در واقع نسخه‌ای مدرن از حملات زنجیره تأمین (Supply Chain Attack) است که در آن اعتماد مدل به ابزارهای متصل، مورد سوءاستفاده قرار می‌گیرد.
تبدیل پلتفرم‌های AI به کانال‌های C2
جرم‌داران سایبری اکنون از سرویس‌های AI به عنوان کانال‌های مخفی فرماندهی و کنترل (C2) استفاده می‌کنند. در این روش، ترافیک مخرب در میان جریان داده‌های مشروع AI پنهان می‌شود تا سیستم‌های امنیتی سنتی را دور بزند. برای مثال، بدافزار SesameOp از APIهای OpenAI برای دریافت دستورات و خروج داده‌ها استفاده کرده است، به گونه‌ای که این فعالیت‌ها برای تحلیل‌گران امنیتی شبیه به توسعه نرم‌افزاری عادی به نظر برسد.
از تزریق پرامپت تا ربایش عامل‌ها (Agent Hijacking)
تهدیدات AI از تزریق ساده پرامپت (Prompt Injection) به سمت «ربایش عامل» (Agent Hijacking) حرکت کرده‌اند. در سیستم‌های Agentic AI، مدل‌ها دارای مجوزهای اجرایی و توانایی تصمیم‌گیری مستقل هستند. آسیب‌پذیری‌هایی مانند EchoLeak در Microsoft 365 Copilot نشان می‌دهد که یک ایمیل حاوی دستورات مخفی می‌تواند دستیار AI را مجبور کند تا فایل‌های داخلی را بدون تعامل کاربر به سروری خارجی ارسال کند.
حملات خودکار و باج‌افزارهای مبتنی بر AI
گزارش‌ها حاکی از آن است که گروه‌های APT (مانند GTG-1002) از ابزارهایی مانند Claude Code برای اتوماسیون عملیات جاسوسی، از جمله تحقیق روی اهداف و ساخت ابزارهای حمله استفاده می‌کنند. همچنین، مورد Jadepuffer اولین نمونه از یک کمپین باج‌افزاری کاملاً خودکار بود که توسط یک عامل AI مدیریت شد؛ این عامل توانست در کمتر از ۳۱ ثانیه از مرحله تلاش ناموفق برای ورود به سیستم به مرحله اصلاح کد و رمزگذاری دیتابیس تولیدی برسد.
خطرات در محیط‌های OT و زیرساخت‌های حیاتی
با ورود AI به محیط‌های فناوری عملیاتی (OT) و سیستم‌های کنترل صنعتی (ICS)، سطح حمله گسترده‌تر شده است. زمانی که مدل‌های AI به طور خودکار تنظیمات (Setpoints) سیستم‌های صنعتی را تغییر می‌دهند، مهاجمان می‌توانند با مسموم‌سازی داده‌ها (Data Poisoning)، مدل را فریب دهند تا تصمیمات غلطی بگیرد که منجر به اقدامات فیزیکی مخرب در دنیای واقعی شود.
سرقت منابع پردازشی و ابزارهای تهاجمی اختصاصی
پدیده‌ای به نام LLMjacking یا سرقت منابع پردازشی AI، به مهاجمان اجازه می‌دهد از سخت‌افزارهای قربانی برای ساخت ابزارهای تهاجمی استفاده کنند. همچنین، پلتفرم‌های اختصاصی مانند Xanthorox AI توسعه یافته‌اند که برخلاف مدل‌های عمومی، صرفاً برای اهداف مجرمانه مانند تولید بدافزار و اکسپلویت طراحی شده‌اند.
توصیه نهایی برای مدیران امنیت
تیم‌های امنیتی باید با دستیارهای AI دقیقاً همان‌گونه رفتار کنند که با کاربران دارای دسترسی‌های ویژه (Privileged Users) رفتار می‌کنند: نظارت شدید، کنترل دسترسی‌های دقیق و عدم اعتماد مطلق به خروجی‌ها یا رفتارهای مدل.
