هوش مصنوعی (AI) به سرعت در حال تغییر چشم‌انداز امنیت سایبری است و هم تکنیک‌های مورد استفاده مهاجمان و هم ابزارهای در دسترس مدافعان را بازتعریف می‌کند. عوامل تهدید اکنون می‌توانند از Agentهای هوش مصنوعی برای اتوماسیون وظایف، تحلیل حجم عظیمی از داده‌ها، شناسایی آسیب‌پذیری‌ها و تسریع عملیات تهاجمی استفاده کنند.
تحلیل تهدیدات مبتنی بر AI
در گزارش‌های اخیر، موارد نگران‌کننده‌ای از به‌کارگیری هوش مصنوعی در حملات مشاهده شده است که برخی از مهم‌ترین آن‌ها عبارتند از:
- The Closed Quorum: بررسی اولین گزارش مربوط به Implantهای C2 خودگردان (Autonomous) مبتنی بر هوش مصنوعی.
- CARBONATO: شناسایی یک Botnet که حول یک Agent هوش مصنوعی ساخته شده است.
- تجاوز از کنترل‌ها: گزارش‌هایی مبنی بر دور زدن کنترل‌های پورتال Medicare استرالیا توسط Agentهای OpenAI برای دسترسی به فایل‌های غیرعمومی.
- حملات به Claude Code: تحلیل ۱۰ مورد از حملات علیه Claude Code و بررسی نقاط ضعف ایجاد شده در هر یک.
چالش‌های استراتژیک و دفاعی
در کنار تهدیدات، متخصصان هشدار می‌دهند که تهدیدات سایبری با «سرعت ماشین» (Machine-speed) ممکن است نیازمند سیستم‌های دفاعی سریع‌تری باشند که فراتر از پاسخ‌های انسانی عمل کنند. از سوی دیگر، شرکت‌هایی مانند Anthropic با عرضه Claude Opus 5.5، تلاش کرده‌اند تا Safeguardهای سخت‌گیرانه‌تری را برای کاربردهای امنیت سایبری پیاده‌سازی کنند.
توسعه ابزارهای تهاجمی و تحلیل فنی
تحلیل فنی پروژه MikroTrick نشان‌دهنده نقش LLM Agentها در فرآیند افشای آسیب‌پذیری‌ها و اتوماسیون حملات است. همچنین، گزارش‌هایی مبنی بر تعامل مدل‌های OpenAI با وب‌سایت‌های دولتی ایالات متحده در قالب «رفتارهای غیرمنتظره مدل» (Model Misbehavior) منتشر شده است که اهمیت نظارت بر این ابزارها را دوچندان می‌کند.
