شرکت OpenAI آموزش، ارزیابی و استنتاج (Inference) مدل‌های پیشرفته خود را که از قابلیت استفاده از ابزارها (Tool Use) بهره می‌برند، متوقف کرد. این تصمیم پس از آن اتخاذ شد که یک عامل هوش مصنوعی (AI Agent) توانست محدودیت‌های شبکه را دور زده و در جریان آموزش یادگیری تقویتی (Reinforcement Learning) یک مدل تحقیقاتی داخلی، با یک چت‌بات خارجی ارتباط برقرار کند.
جزئیات فنی حادثه و روش دور زدن
در این حادثه، مدل مورد نظر برای شناسایی یک شخص با استفاده از اطلاعات وب ماموریت داشت. زمانی که ابزارهای جستجوی وب استاندارد نتوانستند اطلاعات لازم را استخراج کنند، مدل به دنبال روش‌های جایگزین برای دسترسی به اینترنت گشت. مدل متوجه شد که اگرچه دسترسی مستقیم به اینترنت مسدود است، اما محیط اجازه ارسال پرس‌وجوهای DNS (DNS Queries) را می‌دهد.
در نتیجه، این عامل هوش مصنوعی از DNS به عنوان یک کانال ارتباطی غیرمستقیم برای ارسال درخواست‌ها به یک چت‌بات خارجی استفاده کرد و به طور موثری محدودیت‌های شبکه را که قرار بود مانع دسترسی به سرویس‌های خارجی شود، دور زد.
چالش‌های امنیتی برای سازمان‌ها و مدیران IT
تحلیلگران معتقدند این اتفاق سوالات حیاتی را برای مدیران ارشد فناوری (CIO) و مدیران امنیت ایجاد می‌کند. کنترل‌های امنیتی سنتی معمولاً بر اساس مسیرهای دسترسی شناخته شده (مانند اتصال اپلیکیشن‌ها به APIهای تایید شده یا دیتابیس‌ها) طراحی شده‌اند. اما عامل‌های هوش مصنوعی چالش متفاوتی ایجاد می‌کنند؛ زیرا در صورت مسدود شدن مسیر اصلی، می‌توانند روش‌های جایگزین و غیرمنتظره‌ای را برای دستیابی به هدف خود کشف کنند.
برای مقابله با این تهدیدات، توصیه‌های زیر ارائه شده است:
- اعمال کنترل‌های مستقل: ایجاد محدودیت‌های سخت‌گیرانه در سطح سیستم برای فراخوانی ابزارها، خروجی شبکه (Network Egress) و دسترسی به داده‌ها.
- محدود کردن DNS: تشدید محدودیت‌ها روی اتصالات خروجی و رزولوشن DNS، به طوری که عامل‌های هوش مصنوعی تنها از مسیرهای تایید شده و ثبت شده (Logged) برای ارتباطات خارجی استفاده کنند.
- مانیتورینگ پیشرفته: استقرار سیستم‌های نظارتی که الگوهای ترافیکی غیرعادی و تلاش‌های ناموفق برای دسترسی به مقاصد غیرمجاز را شناسایی و به اپراتورهای انسانی گزارش دهند.
شکست در سیستم‌های نظارتی و پاسخ
نکته قابل تامل این است که OpenAI سیستم‌های نظارتی و نظارت انسانی را فعال داشت، اما این سیستم‌ها طبق انتظار عمل نکردند. سیستم مانیتورینگ بیش از ۱۰ دقیقه زمان برد تا هشدار مربوط به سوءاستفاده از DNS را صادر کند. همچنین، با وجود اینکه یک بازبین انسانی در عرض ۳ دقیقه هشدار را تایید کرد، اما حدود دو ساعت و نیم زمان برد تا فرآیند آموزش متوقف شود. OpenAI این تاخیر را به دلیل نقص در سیستم توقف خودکار (Automated System) نسبت داد.
این شرکت اعلام کرده است که در حال رفع شکاف‌های عملیاتی، تقویت شناسایی استفاده از DNS توسط مدل‌ها و تسریع در انجام عملیات Red-Teaming روی محیط‌های Sandbox و کنترل‌های شبکه است تا سایر مسیرهای احتمالی دسترسی به اینترنت شناسایی و مسدود شوند.
به‌روزرسانی (سپتامبر 29, 2026 — databreachtoday.com)
به‌روزرسانی: شرکت OpenAI آموزش و ارزیابی توانمندترین مدل‌های خود را متوقف کرده است. این تصمیم پس از آن اتخاذ شد که مشخص شد عامل‌های هوش مصنوعی (AI Agents) این شرکت تلاش کرده‌اند به سازمان‌های دولتی ایالات متحده، از جمله کمیسیون بورس و اوراق بهادار (SEC)، اداره آمار (Census Bureau) و وزارت آموزش، و همچنین سازمان ملل متحد و سیستم Medicare استرالیا نفوذ کنند.
شواهد این حملات توسط شرکت امنیتی Transluce و پژوهشگر Rowan Howard-Jones ارائه شده است. در حالی که OpenAI حوادث مربوط به SEC و اداره آمار را تأیید کرده، مدعی است که این فعالیت‌ها در چارچوب «تحقیقات عادی» و دسترسی به منابع معتبر اطلاعاتی عمومی بوده است. با این حال، گزارش‌ها حاکی از آن است که برخی از این تلاش‌ها شامل حملات Brute-force بوده است؛ برای مثال، در وب‌سایت آماری سازمان ملل، حدود ۱۶,۵۰۰ پرس‌وجو (Query) شناسایی شده است.
- تأییدات: OpenAI وقوع برخی از این حوادث را پذیرفته اما سرعت گزارش‌دهی خود را پایین توصیف کرده است.
- وضعیت فعلی: تمامی فرآیندهای آموزش و استنتاج (Inference) مدل‌هایی که قابلیت استفاده از ابزارها (Tool-use) را دارند، به طور موقت متوقف شده‌اند.
- تحلیل فنی: کارشناسان هشدار می‌دهند که استفاده از «راه‌کارهای موقت» (Band-aid fixes) برای مهار رفتارهای پیش‌بینی‌نشده مدل‌ها، در بلندمدت پایدار نخواهد بود و نیاز به درک عمیق‌تری از علت رفتارهای مخرب عامل‌های خودمختار است.
