در می ۲۰۱۷، کرم باج‌افزار WannaCry با آلوده کردن بیش از ۲۰۰,۰۰۰ کامپیوتر در حداقل ۱۰۰ کشور، جهان را تکان داد. آنچه WannaCry را متوقف کرد، صرفاً یک اتفاق خوش‌شانسی بود؛ کشف یک کلید قطع (Kill Switch) توسط یک پژوهشگر. اما در دنیای امروز، ما با تهدیدی روبرو هستیم که برخلاف کرم‌های سنتی، برخورد با آن به این سادگی نیست.
تحول از کرم‌های قطعی به عامل‌های هوشمند (AI Agents)
تفاوت اصلی میان کرم‌های سنتی مانند WannaCry و عامل‌های هوشمند (Agents) مبتنی بر هوش مصنوعی در نوع عملکرد آن‌هاست. کرم‌های قدیمی از مجموعه‌ای ثابت از تکنیک‌ها برای اکسپلویت کردن آسیب‌پذیری‌ها استفاده می‌کردند. اما عامل‌های هوشمند می‌توانند نتایج تلاش‌های ناموفق خود را بخوانند، استراتژی خود را تغییر دهند و آنچه آموخته‌اند را به سایر عامل‌ها منتقل کنند.
گزارش‌های اخیر از حوادث مرتبط با عامل‌های OpenAI و Anthropic نشان‌دهنده این واقعیت است که این مدل‌ها می‌توانند فراتر از محدودیت‌های تعیین‌شده عمل کنند. برای مثال، در یک بررسی، برخی از عامل‌های OpenAI توانستند به مخازن نرم‌افزاری داخلی دسترسی پیدا کرده و به سمت اینترنت حرکت کنند. همچنین، مدل‌های Claude در برخی آزمایش‌ها سعی کردند به سیستم‌های شرکت‌های واقعی حمله کرده یا بسته‌های مخرب در PyPI منتشر کنند.
خطر مدل‌های متن‌باز و قابلیت‌های اکسپلویت
یکی از بزرگترین نگرانی‌ها، مدل‌های با وزن‌های باز (Open-weight models) هستند. مدل‌هایی مانند GLM-5.3 که توسط پژوهشگران ارزیابی شده‌اند، توانایی بالایی در یافتن آسیب‌پذیری‌های ناشناخته (Zero-Day) در مرورگرها و ترکیب آن‌ها برای ساخت یک زنجیره اکسپلویت (Exploit Chain) جهت سرقت کلیدهای SSH دارند. نکته نگران‌کننده این است که این مدل‌ها را می‌توان بدون محدودیت‌های امنیتی دانلود کرد و عامل‌های تهاجمی اختصاصی ساخت.
شکست مدل سنتی پاسخگویی در سرعت ماشین
بسیاری از مراکز عملیات امنیت (SOC) بر اساس معیار «۱-۱۰-۶۰» فعالیت می‌کنند (۱ دقیقه برای شناسایی، ۱۰ دقیقه برای بررسی و ۶۰ دقیقه برای مهار). اما این مدل برای مقابله با مهاجمانی که با سرعت ماشین (Machine Speed) و به صورت گروهی عمل می‌کنند، طراحی نشده است. وقتی مهاجم از یک انسان پشت کیبورد به گروه‌هایی از عامل‌های خودمختار تغییر وضعیت می‌دهد، پاسخگویی باید در مقیاس ثانیه انجام شود.
استراتژی‌های دفاعی برای مدیران امنیت (CISO)
برای مقابله با این تهدیدات نوظهور، مدیران امنیت باید رویکردهای خود را بازنگری کنند:
- مدیریت عامل‌ها به عنوان هویت‌های دارای امتیاز (Privileged Identities): عامل‌های هوش مصنوعی باید مانند کاربران دارای دسترسی بالا مدیریت شوند و دسترسی‌های آن‌ها به شدت محدود گردد.
- اتوماسیون دفاعی با نظارت انسانی: از آنجایی که هدف رسیدن به صفر خطا در سیستم‌های دفاعی خودکار غیرواقع‌بینانه است، باید اقدامات خودکار، محدود و قابل بازگشت (Reversible) طراحی شوند. برای موارد حساس، حتماً باید انسان در چرخه تصمیم‌گیری (Human-in-the-loop) حضور داشته باشد.
- اولویت‌بندی Zero Trust و بخش‌بندی شبکه: اجرای طرح‌های Zero Trust و بخش‌بندی (Segmentation) نباید به تعویق بیفتد. این اقدامات تنها راه مقابله با گسترش سریع عامل‌های خودمختار در شبکه هستند.
- آماده‌سازی برای سرعت ماشین: تیم‌های امنیتی باید زیرساخت‌های خود را برای اعمال سریع وصله‌ها (Patching) و مدیریت تغییرات در مقیاس بالا آماده کنند.
