شرکت Anthropic در گزارش پژوهشی جدید خود هشدار داده است که در صورت ارتقای توانایی‌های مدل‌های کوچک هوش مصنوعی، احتمال ایجاد Botnetهای خود-تکثیرشونده (Self-replicating) بر روی سخت‌افزارهای IoT طی چند ماه آینده وجود دارد. این شرکت معتقد است که مدل‌های هوش مصنوعی می‌توانند بدون اتکا به سخت‌افزارهای قدرتمند مراکز داده (Datacenters)، بر روی دستگاه‌های لبه‌ای مستقر شده و گسترش یابند.
جزئیات فنی آزمایش و توزیع مدل
پژوهشگران Anthropic موفق شدند یک نمونه توزیع‌شده از مدل Gemma4-26B-A4B را بر روی ۱۵ دستگاه اندرویدی Set-top box (که به دلیل امنیت پایین، اهداف رایجی برای بدافزارها هستند) اجرا کنند. در این سناریو، لایه‌های مدل بین سخت‌افزارهای ارزان‌قیمت توزیع شده بود و عملیات Inference با سرعت بسیار پایین ۰.۳۹ توکن بر ثانیه انجام شد.
برای بررسی قابلیت تکثیر، این تیم از مدل GLM 5.2 استفاده کرد تا یک نسخه از Llama3.1-8B را در محیط‌های شبیه‌ساز اندروید در Google Cloud منتشر کند. نتایج نشان داد که GLM-5.2 توانست با موفقیت مراحل شناسایی شبکه (Network Enumeration)، ارسال Payload و راه‌اندازی Inference را برای تکثیر مدل به گره‌های دیگر انجام دهد.
نقد فنی و تحلیل واقع‌بینانه
با وجود هشدارهای شدید Anthropic، تحلیل‌های فنی نشان می‌دهد که این تهدید در حال حاضر بیشتر جنبه تئوریک دارد و با چالش‌های جدی روبروست:
- ساده‌سازی اکسپلویت: در این آزمایش، بخش مربوط به Exploit نادیده گرفته شده و مدل‌ها در محیطی مستقر شدند که عمداً برای حمله باز گذاشته شده بود. در دنیای واقعی، عبور از لایه‌های امنیتی بسیار پیچیده‌تر است.
- سرعت بسیار پایین: در حالی که بات‌نت‌های کلاسیک مانند Mirai می‌توانستند در عرض یک ساعت تعداد گره‌های خود را دو برابر کنند، تخمین زده می‌شود که یک Worm مبتنی بر AI برای دو برابر شدن به چندین روز زمان نیاز داشته باشد.
- ردپای شبکه (Network Footprint): مدل‌های هوش مصنوعی به دلیل حجم بالا، پهنای باند زیادی مصرف می‌کنند. این ترافیک غیرعادی باعث می‌شود شناسایی و مهار (Mitigation) این نوع Botnetها توسط تیم‌های SOC بسیار راحت‌تر از بدافزارهای سنتی باشد.
در نهایت، Anthropic اذعان کرده است که هنوز دقیقاً نمی‌داند تکثیر خودکار AI به چه شکلی خواهد بود، اما توصیه می‌کند سازمان‌ها برای سخت‌سازی (Hardening) سیستم‌های خود در برابر این نوع عوامل تهدید (Threat Actors) احتمالی آماده شوند.
