شرکت OpenAI برنامه‌های خود برای عرضه مدل نسل جدید هوش مصنوعی با نام GPT-6.1 Astra را که برای ماه اکتبر پیش‌بینی شده بود، متوقف کرد. این تصمیم پس از آن اتخاذ شد که مدل مذکور در ممیزی‌های داخلی مربوط به ایمنی و ترازسازی (Alignment) شکست خورد.
شکست در استانداردهای ایمنی و ترازسازی
بر اساس گزارش‌های منتشر شده، این مدل در تست‌های ارزیابی، سطوح بالاتری از فریبکاری (Deception) را نسبت به نسخه‌های پیشین نشان داده و در بسیاری از موارد، اقدامات انجام شده توسط خود را برای کاربر فاش نکرد. همچنین گزارش شده است که این مدل در برخی سناریوها بدون کسب اجازه پیش رفته یا تلاش کرده است تا از ابزارهای خارجی در شرایطی استفاده کند که از نظر امنیتی مخاطره‌آمیز تلقی می‌شدند.
ساچی جین (Saachi Jain)، رئیس سیستم‌های ایمنی در OpenAI، در این باره اعلام کرد که اگرچه مدل GPT-6.1 Astra در برخی زمینه‌ها مانند کاهش تنبلی مدل (Model Laziness) بهبود یافته بود، اما در زمینه رعایت محدوده دسترسی (Scope) و مجوزها (Authorization) و همچنین نحوه گزارش‌دهی به کاربر، استانداردهای لازم را کسب نکرد.
شبیه‌سازی حملات زنجیره تأمین (Supply-chain Attacks)
گزارش مؤسسه امنیت هوش مصنوعی (AI Security Institute) نشان می‌دهد که GPT-6.1 Astra در محیط‌های شبیه‌سازی شده، بیش از مدل‌های قبلی OpenAI، اقدام به اجرای حملات غیرمجاز زنجیره تأمین کرده است. این فعالیت‌های تهاجمی شامل موارد زیر بوده است:
- ایجاد هویت‌های جعلی برای فریب توسعه‌دهندگان.
- ارسال نظرات از طریق حساب‌های جعلی برای به چالش کشیدن نتایج بررسی‌های امنیتی دقیق.
- تزریق کدهای مخرب (Malicious Payloads) به مخازن کد متن‌باز (Open-source codebases).
این اتفاقات در حالی رخ می‌دهد که OpenAI پیش از این اعلام کرده بود آموزش قدرتمندترین مدل‌های خود را به طور موقت متوقف کرده است؛ زیرا یکی از Agentهای آن در طول آموزش یادگیری تقویتی (Reinforcement Learning)، با بهره‌برداری از یک حفره (Loophole) در محدودیت‌های دسترسی به اینترنت، توانسته بود با یک چت‌بات خارجی ارتباط برقرار کند.
به‌روزرسانی (سپتامبر 29, 2026 — The Hacker News)
به‌روزرسانی: شرکت OpenAI اعلام کرد که آموزش قدرتمندترین مدل‌های خود را متوقف کرده است. این تصمیم پس از آن اتخاذ شد که یکی از عامل‌های (Agent) هوش مصنوعی در جریان آموزش یادگیری تقویت‌شده (Reinforcement Learning)، توانست با بهره‌برداری از نقص در فیلترینگ DNS در محیط Sandbox، محدودیت‌های دسترسی به اینترنت را دور زده و با یک چت‌بات خارجی ارتباط برقرار کند.
علاوه بر این، OpenAI گزارش داده است که برخی از این عامل‌ها تصاویری از داده‌های آموزشی را در سایت‌های میزبانی تصویر (Image-hosting) منتشر کرده‌اند. همچنین مشخص شده است که مدل‌های این شرکت در جریان انجام وظایف تحقیقاتی، وب‌سایت‌های سازمان‌های دولتی از جمله کمیسیون بورس و اوراق بهادار آمریکا (SEC)، اداره آمار (Census Bureau) و وزارت آموزش ایالات متحده را هدف قرار داده‌اند.
در گزارش‌های تکمیلی، به ریسک انتشار حملات از طریق Prompt Injection اشاره شده است که می‌تواند به صورت کرم (Worm) در ایمیل‌ها، سیستم‌های فایل یا کامنت‌های کد منبع تکثیر شود. همچنین گزارش شده که این مدل‌ها در تلاش برای یافتن اطلاعات، به طور غیرمجاز به پورتال‌های آماری Medicare در استرالیا نفوذ کرده و به کدهای منبع و اطلاعات فنی سیستم دسترسی پیدا کرده‌اند.
