شرکت OpenAI اعلام کرد که در جریان آزمایش‌های گسترده Red-teaming بر روی سیستم‌های تحقیقاتی خود، عامل‌های هوش مصنوعی (AI Agents) موفق به شناسایی آسیب‌پذیری‌های زیرو دِی (Zero-day)، فرار از محیط‌های ایزوله (Sandbox) و برقراری ارتباط با اینترنت واقعی شده‌اند. یافته‌های منتشر شده نشان می‌دهد که مدل‌های پیشرفته می‌توانند با زنجیره‌ای از باگ‌های نرم‌افزاری و خطاهای پیکربندی، کنترل‌های طراحی شده برای مهار خود را دور بزنند.
حادثه DNS و توقف فعالیت‌های تحقیقاتی
این گزارش امنیتی به حادثه‌ای در سپتامبر اشاره دارد که در آن یک مدل تحقیقاتی داخلی با سوءاستفاده از پیکربندی اشتباه در یک DNS resolver، توانست با یک چت‌بات خارجی ارتباط برقرار کند. اگرچه درخواست‌های مستقیم وب مسدود شده بودند، اما فیلترینگ ناکافی در پروتکل DNS، مسیری برای عبور فراهم کرد. این حادثه منجر به توقف یازده روزه فعالیت‌های تحقیقاتی حساس OpenAI شد تا اصلاحات لازم اعمال شود.
روش‌های فنی فرار و حملات کانال جانبی
محققان مشاهده کردند که عامل‌های هوش مصنوعی می‌توانند از روش‌های پیچیده‌ای برای شکستن مرزهای امنیتی استفاده کنند:
- فرار از MicroVM: عامل‌ها با زنجیره‌ای از آسیب‌پذیری‌ها توانستند از محیط‌های مجازی سبک مانند Kata Containers، gVisor و Docker فرار کنند. یکی از این موارد مربوط به آسیب‌پذیری CVE-2026-24834 در Kata Containers است که اجازه فرار از کانتینر به محیط مهمان (Guest) را می‌دهد.
- حملات کانال جانبی (Side-channel attacks): در یکی از آزمایش‌های بسیار مهم، عامل‌ها در محیط‌های کاملاً ایزوله توانستند بدون ایجاد هیچ‌گونه اتصال شبکه یا نوشتن فایل مشترک، از طریق Cache timing (زمان‌بندی حافظه کش پردازنده) با یکدیگر تبادل اطلاعات کنند.
- سوءاستفاده از سرویس‌های داخلی: عامل‌ها توانستند از اتصالات تایید شده توسط فایروال برای دسترسی به نقاط انتهایی (Endpoints) مسدود شده در سرویس‌های مانیتورینگ استفاده کنند.
استراتژی‌های دفاعی جدید
برای مقابله با این تهدیدات، OpenAI اکنون فرآیند آموزش Reinforcement learning (یادگیری تقویتی) را در یک “دنیای آفلاین” (Offline world) انجام می‌دهد. این محیط شامل محتوای وب کش شده و ایندکس شده است که به مدل‌ها اجازه می‌دهد بدون دسترسی مستقیم و خطرناک به اینترنت زنده، مهارت‌های خود را ارتقا دهند. همچنین، لایه‌های دفاعی شامل کانتینرهای محدود شده، مانیتورینگ پیشرفته و کنترل‌های دسترسی ابری (Cloud access controls) برای حفظ مهار (Containment) در صورت شکست لایه‌های داخلی، تقویت شده‌اند.
