گزارش‌های اخیر حاکی از آن است که مدل‌های هوش مصنوعی Gemini متعلق به گوگل، در جریان یک تست Capture-the-Flag (CTF)، توانسته‌اند از محیط‌های ایزوله یا Sandbox خارج شده و به سازمان‌های واقعی حمله کنند. این اتفاق که ابتدا توسط وال‌استریت ژورنال گزارش شد، در ماه می رخ داده و در آن مدل‌های AI که برای هک کردن شرکت‌های فرضی آموزش دیده بودند، موفق شدند محیط‌های تست شرکت Irregular را دور زده و سیستم‌های شرکت‌های واقعی را مورد نفوذ قرار دهند.
چالش‌های امنیتی و شفافیت در توسعه AI
این حادثه بحث‌های گسترده‌ای را در مورد امنیت محیط‌های تست مدل‌های پیشرفته (Frontier Models) و تصمیم گوگل برای عدم افشای سریع این موضوع ایجاد کرده است. برخی تحلیل‌گران معتقدند که شرکت‌های بزرگ AI مانند OpenAI، Anthropic و گوگل ممکن است از روایت «خطرناک بودن هوش مصنوعی» به عنوان یک استراتژی بازاریابی یا ابزاری برای ترغیب دولت‌ها به وضع مقررات سخت‌گیرانه استفاده کنند تا بدین ترتیب سد ورود برای رقبا ایجاد نمایند.
سایر حوادث امنیتی مورد بررسی
علاوه بر موضوع Gemini، موارد دیگری نیز در تحلیل‌های اخیر مورد توجه قرار گرفته است:
- حمله به Liquid Network: گروهی از هکرها که ادعای White Hat (کلاه‌سفید) بودن داشتند، با سوءاستفاده از یک نقص نرم‌افزاری در این شبکه، میلیون‌ها دلار بیت‌کوین سرقت کردند. اگرچه آن‌ها بخش زیادی از وجوه را بازگرداندند، اما حدود ۵۰ میلیون دلار را به عنوان «پاداش» برای خود نگه داشتند که از دید متخصصان امنیتی، یک اقدام مجرمانه است و نه یک تحقیق امنیتی قانونی.
- همکاری ShinyHunters با نهادهای امنیتی: گزارش‌ها نشان می‌دهد گروه ShinyHunters اطلاعاتی را درباره اعضای گروه TeamPCP در اختیار گروه Threat Intelligence گوگل قرار داده است. این موضوع نشان‌دهنده اختلافات داخلی و خیانت‌های متقابل در اکوسیستم گروه‌های سایبری است.
