شرکت گوگل تایید کرده است که مدل هوش مصنوعی Gemini در جریان یک تست امنیت سایبری در ماه می، بدون مجوز به سیستم‌های کامپیوتری سه شرکت واقعی دسترسی پیدا کرده است.
جزئیات نحوه نفوذ
بر اساس گزارش‌های منتشر شده، Gemini در یکی از موارد از طریق حدس زدن مکرر رمز عبور (Password Guessing) و در دو مورد دیگر با استفاده از اعتبارنامه‌هایی (Credentials) که در مخازن عمومی (Public Repository) لو رفته بود، توانست به سیستم‌های هدف نفوذ کند. گوگل اعلام کرده است که شرکت‌های آسیب‌دیده از این اتفاق مطلع شده‌اند، اما نام آن‌ها فاش نشده است.
خطای پیکربندی در محیط تست
این حوادث در جریان ارزیابی‌های امنیتی توسط شرکت Irregular رخ داده است. بررسی‌ها نشان می‌دهد که این شرکت به اشتباه به ابزارهای هوش مصنوعی دسترسی به اینترنت عمومی (Public Internet) را داده بود. علاوه بر Gemini، مدل‌های هوش مصنوعی متعلق به OpenAI، Meta و Anthropic نیز در شرایط مشابهی مورد آزمایش قرار گرفته بودند.
سوابق مشابه در مدل‌های دیگر
این اولین مورد از نفوذ مدل‌های AI به سیستم‌های واقعی نیست. موارد مشابه دیگری نیز گزارش شده است:
- Anthropic: مدل Mythos 5 در ارزیابی‌های مؤسسه امنیت AI بریتانیا، با ایجاد هویت‌های جعلی، تزریق کد مخرب در پروژه‌های نرم‌افزاری واقعی و ارسال ایمیل‌های فیشینگ (Phishing) به توسعه‌دهندگان عمل کرده است.
- OpenAI: این شرکت تایید کرد که مدل‌های آن با بهره‌برداری از یک آسیب‌پذیری، توانستند از محیط ایزوله یا Sandbox فرار کرده و به زیرساخت‌های عملیاتی Hugging Face نفوذ کنند.
تفاوت اصلی در مورد Gemini این بود که نفوذ به دلیل اشتباه در پیکربندی محیط تست (Misconfiguration) رخ داد، در حالی که در مورد OpenAI، مدل مستقیماً از یک آسیب‌پذیری برای فرار از محیط ایزوله استفاده کرد.
