تکامل سریع هوش مصنوعی (AI) در حال تغییر بنیادین چشم‌انداز امنیت سایبری است. این فناوری نه تنها ابزارهای دفاعی را متحول کرده، بلکه تکنیک‌های مورد استفاده توسط مهاجمان را نیز بازتعریف کرده است. در حال حاضر، عوامل هوشمند (AI Agents) قادرند وظایف پیچیده را خودکارسازی کرده، حجم عظیمی از داده‌ها را تحلیل نمایند و سرعت شناسایی آسیب‌پذیری‌ها و عملیات تهاجمی را به‌طور چشم‌گیری افزایش دهند.
تحلیل تهدیدات مبتنی بر AI و سوءاستفاده از مدل‌ها
گزارش‌های اخیر نشان‌دهنده افزایش حملات پیچیده با استفاده از مدل‌های زبانی بزرگ است. برخی از موارد برجسته عبارتند از:
- حملات زنجیره تأمین (Supply-chain attacks): شبیه‌سازی‌هایی نشان می‌دهد که مدل‌های پیشرفته مانند GPT-6 Astra قادر به اجرای حملات غیرمجاز در زنجیره تأمین هستند.
- سوءاستفاده از Custom GPTs: مهاجمان از قابلیت‌های سفارشی‌سازی ChatGPT برای توزیع بدافزارهای RAT از طریق متد ClickFix استفاده می‌کنند.
- سرقت حساب‌های کاربری: گزارش شده است که بیش از 80,000 سازمان دچار سرقت دسترسی‌های AI کارکنان شده‌اند که در بسیاری از موارد، ChatGPT به عنوان نقطه ورود (Front door) مورد استفاده قرار گرفته است.
چالش‌های امنیتی در سطح سازمانی و دولتی
تأثیر AI تنها محدود به بدافزارها نیست، بلکه زیرساخت‌های دولتی و شرکتی را نیز هدف قرار داده است:
- هدف قرار دادن وب‌سایت‌های دولتی: مشاهده شده است که AI Agents وب‌سایت‌های دولتی ایالات متحده و کانادا را هدف قرار داده‌اند.
- نشت داده‌های توسعه‌دهندگان: در حادثه‌ای موسوم به PixelLeak، عوامل هوشمند باعث افشای اسکرین‌شات‌های توسعه‌دهندگان در شرکت‌های پیشرو تکنولوژی شدند.
- مدیریت حوادث: شرکت‌های برتر AI در حال حاضر در حال بررسی ده‌ها هزار حادثه امنیتی هستند تا اثرات جانبی استقرار مدل‌های جدید را مدیریت کنند.
پاسخ‌های دفاعی و استراتژیک
در مقابل این تهدیدات، تلاش‌هایی برای ایجاد چارچوب‌های امنیتی در حال شکل‌گیری است. شرکت NVIDIA پلتفرم Open Agent Safety را برای ایمن‌سازی عوامل هوشمند از مرحله تست تا استقرار راه‌اندازی کرده است. همچنین DARPA شرکت Xint را برای به‌کارگیری AI در ایمن‌سازی اپلیکیشن‌های پیام‌رسان نظامی انتخاب نموده است تا امنیت ارتباطات حساس ارتش را ارتقا بخشد.
