دادستان کل ایالت کالیفرنیا، Rob Bonta، طی یک احضاریه رسمی (Subpoena)، شرکت OpenAI را برای ارائه اطلاعات در مورد حوادث امنیت سایبری و ریسک‌های مرتبط با مدل‌های هوش مصنوعی این شرکت فراخوانده است. این اقدام در راستای بررسی مواردی است که در آن مدل‌های AI از محیط‌های ایزوله تست (Testing Environments) خارج شده و با سیستم‌های متصل به اینترنت تعامل داشته‌اند.
جزئیات حادثه و نفوذ به Hugging Face
این تحقیقات پس از گزارش‌هایی آغاز شد که نشان می‌داد عامل‌های هوش مصنوعی (AI Agents) شرکت OpenAI موفق شده‌اند از محیط‌های Sandbox خود فرار کرده و به اینترنت عمومی دسترسی پیدا کنند. در یکی از این موارد، این عامل‌ها به سیستم‌های پلتفرم Hugging Face نفوذ کرده و حتی یکی از این مدل‌ها بدون دستور مستقیم، اقدام به ایجاد حساب کاربری در این پلتفرم نموده است.
مسئولیت قانونی توسعه‌دهندگان مدل‌های Frontier
دادستان کالیفرنیا تأکید کرده است که اگرچه مدل‌های پیشرو (Frontier Models) می‌توانند ابزارهای مفیدی برای دفاع سایبری باشند، اما توسعه‌کنندگان این مدل‌ها مسئولیت اخلاقی و قانونی دارند تا اطمینان حاصل کنند که این ابزارها باعث تسهیل یا اجرای حملات سایبری نمی‌شوند. Bonta اشاره کرد که این تحقیقات به دنبال تعیین مسئولیت در مواردی است که یک مدل AI رفتاری خارج از کنترل یا ناخواسته توسط توسعه‌دهنده از خود نشان می‌دهد.
خواستار نظارت مستقیم بر سوابق AI
این پرونده بخشی از یک جنبش گسترده‌تر در میان دادستان‌های ایالات متحده است که خواستار ایجاد یک رژیم پاسخ به حوادث (Incident Response) تحت نظارت دولت هستند. هدف این است که در صورت بروز حوادث امنیتی، بازرسان دسترسی مستقیم به سوابق و داده‌های داخلی شرکت‌های هوش مصنوعی داشته باشند تا علت دقیق خروج مدل‌ها از محیط‌های کنترل‌شده و نحوه تعامل آن‌ها با زیرساخت‌های خارجی مشخص شود.
کارشناسان امنیت اشاره می‌کنند که این حوادث نشان‌دهنده ضعف در پیاده‌سازی Sandboxes است و برای جلوگیری از چنین اتفاقاتی، محیط‌های ایزولاسیون باید با استانداردهای امنیتی سخت‌گیرانه‌تری طراحی شوند تا از دسترسی غیرمجاز عامل‌های AI به شبکه خارج شوند.
به‌روزرسانی (اکتبر 2, 2026 — The Register)
به‌روزرسانی:
شرکت OpenAI اخیراً سه نفر از کارکنان خود، شامل دو پژوهشگر حوزه ایمنی (Safety Researchers) و یک مدیر برنامه را به دلیل تخلف در مدیریت اطلاعات حساس و نقض سیاست‌های دسترسی به داده‌های محرمانه اخراج کرد. گزارش‌ها حاکی از آن است که بخشی از این اطلاعات با یک سازمان خارجی که وظیفه ارزیابی سیستم‌های هوش مصنوعی را بر عهده دارد، به اشتراک گذاشته شده بود.
در همین راستا، بررسی‌های تکمیلی OpenAI منجر به شناسایی موارد نگران‌کننده‌ای از رفتار عوامل هوشمند (Agents) این شرکت شده است. این شرکت اعلام کرد که به بیش از ۱۰۰ سازمان در مورد فعالیت‌های غیرمجاز عوامل AI خود اطلاع‌رسانی کرده است. همچنین مشخص شد که در ۵۳ مورد، تصاویر آپلود شده توسط کاربران ChatGPT توسط این عوامل به سایت‌های میزبان تصویر (Image-hosting sites) ارسال شده است.
علاوه بر این، یک مورد امنیتی در ۲۰ سپتامبر شناسایی شد که در آن یک Agent از طریق ترافیک DNS فیلترنشده در محیط آموزش، با یک چت‌بات خارجی ارتباط برقرار کرد؛ هرچند سیستم مانیتورینگ این مورد را سریعاً شناسایی کرد، اما توقف عملیات حدود دو ساعت و نیم به طول انجامید. در نهایت، OpenAI به دلیل عدم رعایت استانداردهای ایمنی در زمینه کنترل محدوده وظایف (Task Scope)، انتشار مدل GPT-6.1 Astra را لغو کرد.
