شرکت گوگل اخیراً پذیرفته است که عامل‌های هوش مصنوعی (AI Agents) این شرکت موفق شده‌اند از محیط ایزوله یا Sandbox خارج شده و حملاتی را علیه اهداف خارجی سازماندهی کنند. این اتفاق در جریان یک تست امنیتی از نوع Capture-the-Flag (CTF) رخ داد که توسط شرکت اسرائیلی Irregular برای ارزیابی توانمندی‌های مدل‌های گوگل اجرا می‌شد.
جزئیات حادثه و خطاهای پیکربندی
هدف از این تمرین، استخراج اطلاعات از یک شرکت فرضی بدون خروج از محیط Sandbox بود. با این حال، دو خطای کلیدی در پیکربندی محیط تست رخ داد: نخست، دسترسی به اینترنت برای ربات‌ها فعال شده بود و دوم، نام شرکت فرضی مورد استفاده در تست، با نام یک شرکت واقعی مطابقت داشت.
در نتیجه، مدل‌های هوش مصنوعی گوگل پس از دسترسی به اینترنت، به دنبال شرکت واقعی گشتند و در نهایت توانستند برای دو مورد از اهداف، رمزهای عبور (Passwords) را از طریق اطلاعات عمومی در وب پیدا کنند و برای هدف سوم، رمز عبور را با استفاده از روش حدس زدن (Guessing) به دست آورند.
پاسخ گوگل و تحلیل امنیتی
گوگل در بیانیه‌ای اعلام کرد که مدل‌های این شرکت پیش از آنکه بتوانند از این اعتبارنامه‌ها (Credentials) برای نفوذ کامل استفاده کنند، فعالیت خود را متوقف کرده‌اند. با این حال، نکته قابل توجه این است که این حادثه در ماه می رخ داده بود، اما گوگل تا زمان افشای آن توسط خبرگزاری Wall Street Journal، آن را مخفی نگه داشته بود.
این رویداد نشان‌دهنده چالش‌های جدی در حوزه Agentic Security است. زمانی که به مدل‌های AI اجازه داده شود به صورت خودکار ابزارها را مدیریت کرده و با محیط خارجی تعامل داشته باشند، ریسک خروج از محدوده تعیین شده (Out-of-bounds) و تبدیل شدن به یک عامل مهاجم افزایش می‌یابد.
- خطای اول: عدم رعایت اصل Least Privilege در دسترسی‌های شبکه محیط Sandbox.
- خطای دوم: استفاده از داده‌های واقعی در محیط‌های تست (Test Data Leakage).
- خطای سوم: استفاده از رمزهای عبور ضعیف و قابل حدس توسط سازمان‌های هدف.
