شرکت Anthropic هشدار داده است که پیشرفت در مدل‌های کوچک هوش مصنوعی (Small AI Models) می‌تواند منجر به ظهور نسل جدیدی از بدافزارهای خودتکثیرشونده شود. این بدافزارها قادر خواهند بود دستگاه‌های اینترنت اشیاء (IoT) مانند یخچال‌های هوشمند، جاروبرقی‌های رباتیک و طیف گسترده‌ای از سخت‌افزارهای متصل را مورد سرایت (Infection) قرار دهند و در برابر تلاش‌های متوقف‌سازی، مقاومت بیشتری نشان دهند.
ظهور کرم‌های هوشمند AI
به گفته این شرکت، تا سال آینده احتمال دارد مدل‌های کوچک‌تر هوش مصنوعی بتوانند به‌طور خودکار روی انواع دستگاه‌های IoT تکثیر شوند. این قابلیت در نهایت منجر به ایجاد کرم‌های کامپیوتری (Computer Worms) می‌شود که بدون نیاز به تعامل انسانی منتشر شده و قادرند دستگاه‌های IoT ناشناخته را شناسایی و آلوده کنند. اگرچه آزمایش‌های اخیر Anthropic نشان می‌دهد که پیاده‌سازی کامل چنین سیستم تکثیرکننده‌ای با چالش‌های زیادی روبروست، اما نتایج به‌دست‌آمده نگرانی‌های جدی درباره اشکال جدیدی از کرم‌های کامپیوتری ایجاد کرده است.
چالش‌های متوقف‌سازی و معماری توزیع‌شده
یکی از خطرناک‌ترین ویژگی‌های این بدافزارها، دشواری در متوقف کردن آن‌هاست. از آنجایی که این سیستم‌ها فاقد یک نقطه کنترل مرکزی (Centralized Point) هستند، خاموش کردن آن‌ها بسیار دشوار خواهد بود. برخلاف بدافزارهای سنتی، یک بدافزار مبتنی بر AI می‌تواند به‌طور مستقل راهکارهای نفوذ به دستگاه‌های ناشناخته را پیدا کند.
محققان Anthropic برای تست این فرضیه، مدل‌های Open-weight کوچک را روی سخت‌افزارهای ارزان‌قیمت مانند اندروید باکس‌های (Android TV boxes) متفرقه اجرا کردند. آن‌ها با استفاده از تکنیک‌های Quantization (برای کاهش تعداد بیت‌های مورد نیاز مدل) و تقسیم بار کاری به بخش‌های کوچک‌تر یا Shards، توانستند فرآیند استنتاج (Inference) را روی این دستگاه‌های ضعیف برقرار کنند.
مقایسه با بدافزارهای سنتی مانند Mirai
در حالی که بدافزارهای سنتی مانند Mirai برای اجرا روی سخت‌افزار یا نرم‌افزارهای خاص نوشته می‌شوند، کرم‌های AI می‌توانند اکسپلویت‌ها (Exploits) و Payloadهای خود را به‌صورت پویا و بسته به هدف مورد نظر تغییر دهند. در این مدل، وزن‌های مدل (Model Weights) خود به بخشی از Payload بدافزار تبدیل می‌شوند.
چرخه حمله این عامل‌های تهدید (Threat Actors) احتمالی به شرح زیر است:
- شناسایی اهداف: یافتن دستگاه‌های آسیب‌پذیر در شبکه.
- اجرای کد: دستیابی به قابلیت Code Execution روی هدف.
- برقراری استنتاج: راه‌اندازی محیط لازم برای اجرای مدل AI روی سخت‌افزار قربانی.
- تکثیر: انتشار به میزبان‌های جدید.
توانایی یادگیری در حین حمله
یکی از مزایای کلیدی این سیستم‌ها، توانایی یادگیری در حین عملیات است. هر بار که یک تکثیرکننده AI در نفوذ به یک پلتفرم خاص شکست می‌خورد، می‌تواند لیستی از Promptها، کدها و یادداشت‌ها را برای تکثیرکننده‌های بعدی به جای بگذارد تا از تکرار اشتباهات قبلی جلوگیری شود.
وضعیت فعلی و محدودیت‌ها
در حال حاضر، هیچ‌یک از مدل‌های سبک تست شده قادر به اجرای کامل چرخه تکثیر به‌صورت End-to-End نیستند. همچنین سرعت اجرای این مدل‌ها روی سخت‌افزارهای IoT بسیار پایین است (به‌عنوان مثال مدل Gemma4-26B-A4B تنها 0.39 توکن در ثانیه سرعت داشت). با این حال، Anthropic معتقد است اگر روند بهبود مدل‌های 30B پارامتری با همین سرعت ادامه یابد، احتمال ظهور تکثیرکننده‌های مبتنی بر وزن (Weight-based Replicators) در آینده‌ای نزدیک بسیار زیاد است.
