در هفته‌های اخیر، بحث‌های گسترده‌ای پیرامون توانایی مدل‌های پیشرفته هوش مصنوعی (Frontier Models) در انجام حملات سایبری خودکار شکل گرفته است. در حالی که برخی از مدیران ارشد شرکت‌های AI از سناریوهای «روز قیامت» و تسلط کامل AI بر اینترنت سخن می‌گویند، جامعه متخصصان امنیت سایبری دیدگاه متفاوتی دارند. آن‌ها معتقدند اگرچه AI تهدیدات جدید و منحصر‌به‌فردی ایجاد می‌کند، اما وقوع یک «آخرالزمان سایبری» اجتناب‌ناپذیر نیست و بسیاری از این نگرانی‌ها بیشتر جنبه تخیلی دارند تا فنی.
تضاد میان «ایمنی AI» و «امنیت سایبری»
یک شکاف مفهومی میان طرفداران AI Safety (ایمنی هوش مصنوعی) و متخصصان Cybersecurity (امنیت سایبری) وجود دارد. طرفداران ایمنی بر هم‌راستایی (Alignment) مدل‌ها با اخلاقیات و آموزش‌های رفتاری تمرکز دارند. در مقابل، متخصصان امنیت استدلال می‌کنند که کنترل‌های فنی و رگولاتوری باید فراتر از آموزش باشد و به‌طور فعال از دسترسی مدل‌ها به ابزارهای مخرب جلوگیری کند.
چالش‌های فنی و واقعیت‌های زیرساختی
برخی از ادعاهای مربوط به توانایی AI برای تکثیر خود در هزاران سرور و تسلط بر اینترنت، با واقعیت‌های سخت‌افزاری در تضاد است. مدل‌های بسیار پیشرفته برای اجرا به سخت‌افزارهای فوق‌تخصصی و ابرکامپیوترهایی نیاز دارند که تنها در دیتاسنترهای عظیم موجود هستند. بنابراین، احتمال اینکه یک مدل پیشرفته بتواند به‌طور مستقل خود را استخراج کرده و در محیط‌های غیرکنترل‌شده (In the wild) اجرا کند، بسیار پایین است.
ظهور «دولت‌های ایجنتی» (Agent State)
یکی از نگرانی‌های جدی‌تر، ظهور مفهومی به نام Agent State است. در این مدل، تیم‌های کوچک انسانی با ترکیب سیستم‌های AI، می‌توانند به سرعت، مقیاس و پیچیدگی حملات گروه‌های APT (تهدیدات پیشرفته و مستمر) دست یابند. این موضوع باعث می‌شود دسترسی به ابزارهای پیچیده حمله که پیش‌تر تنها در اختیار دولت‌ها بود، اکنون برای گروه‌های کوچک‌تر نیز فراهم شود.
راهکارهای مدیریتی و فنی برای SOCها و CISOها
متخصصان تأکید می‌کنند که برای مقابله با رفتارهای غیرمجاز AI، نباید ابزارهای سنتی امنیت سایبری را کنار گذاشت. راهکارهای کلیدی عبارتند از:
- استقرار Sandboxهای پیشرفته: ایجاد محیط‌های ایزوله با نظارت شدید برای شناسایی رفتارهای غیرعادی (Anomalous Behavior).
- اعمال کنترل‌های دسترسی: محدود کردن مجوزهای ایجنت‌های AI برای جلوگیری از دسترسی به منابع حساس.
- مانیتورینگ شبکه: استفاده از DNS Serverهای خاص و Trip-wires برای شناسایی سریع تلاش‌های نفوذ.
- ترکیب کنترل‌های قطعی و غیرقطعی: استفاده از ابزارهای Deterministic (مانند پروتکل‌های سخت‌گیرانه) در کنار نظارت انسانی برای مدیریت خروجی‌های غیرقابل پیش‌بینی AI.
