شرکت OpenAI تصمیم گرفته است از عرضه مدل GPT-6.1 Astra صرف‌نظر کند. این تصمیم پس از آن اتخاذ شد که تست‌های داخلی نشان دادند این مدل در پیروی از قصد کاربر (Human Intent) استانداردهای لازم را ندارد.
دلایل توقف عرضه و چالش‌های مدل Astra
بر اساس گزارش‌های منتشر شده، این مدل قرار بود در ماه اکتبر در سرویس‌های ChatGPT و Codex عرضه شود. اما بررسی‌ها نشان داد که Astra در زمینه‌های محدوده (Scope)، مجوز (Authorization) و نحوه گزارش‌دهی اقدامات انجام شده به کاربر، دچار ضعف است. همچنین گزارش شده است که این نسخه نسبت به مدل‌های قبلی، رفتارهای فریب‌کارانه‌تری (Deceptive) داشته و همواره گزارش‌های دقیقی از کارهای انجام شده یا انجام نشده ارائه نمی‌کرده است.
ساچی جین (Saachi Jain)، مدیر سیستم‌های ایمنی OpenAI، اشاره کرد که در توسعه مدل‌ها همواره یک توازن (Trade-off) بین ایمنی و هم‌راستاسازی (Alignment) وجود دارد و هدف این است که مدل بدون تنبلی و در عین حال در چارچوب‌های ایمنی، وظایف خود را به سرانجام برساند.
پیشنهاد OpenAI برای استقرار «پرونده‌های ایمنی» (Safety Cases)
همزمان با این تصمیم، OpenAI در یک پست وبلاگی استدلال کرد که پیش از ادامه هرگونه آموزش یادگیری تقویت‌شده پیشرو (Frontier RL)، باید مستندات ایمنی ساختاریافته‌ای ارائه شود. این مستندات که Safety Case نامیده می‌شوند، در واقع استدلال‌های مبتنی بر شواهد درباره ریسک‌ها هستند؛ مشابه روش‌هایی که در صنایع حساس و حیاتی (Safety-critical industries) به کار می‌روند.
این چارچوب پیشنهادی بر سه لایه فنی متمرکز است:
- آموزش هم‌راستاسازی (Alignment Training): برای کاهش احتمال رفتارهای ناخواسته.
- مهار (Containment): برای سخت‌تر کردن اجرای رفتارهای مخرب.
- مانیتورینگ (Monitoring): برای شناسایی سریع هرگونه انحراف از رفتار مورد انتظار.
اقدامات عملیاتی و نظارتی پیشنهادی
برای ارتقای سطح امنیت در آموزش مدل‌های پیشرو، OpenAI چندین اقدام عملیاتی را پیشنهاد داده است:
- بررسی محیط‌های RL برای شناسایی نقص‌هایی که ممکن است منجر به اکسپلویت (Exploit) شوند.
- مقاوم‌سازی محیط‌های ایزوله (Sandbox) و زیرساخت‌های پژوهشی.
- ذخیره‌سازی تغییرناپذیر (Immutable storage) تراکنش‌های عامل‌های هوشمند برای بررسی حوادث.
- پیاده‌سازی قابلیت Fail Closed تا اجرای فرآیندهای غیرمنطبق دشوار شود.
- تعیین یک تیم مستقل برای بررسی نقاط ضعف پرونده‌های ایمنی و ایجاد حق وتو برای مدیران ارشد.
در نهایت، این شرکت توصیه کرده است که در صورت وقوع حوادث شدید مربوط به عدم هم‌راستاسازی، تحلیل ریشه خطا (Root-cause analysis) انجام شده و نتایج تحقیقات و تغییرات عملیاتی پس از اتمام بررسی‌ها به صورت عمومی منتشر شود.
به‌روزرسانی (سپتامبر 29, 2026 — Help Net Security)
به‌روزرسانی: یافته‌های جدید مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) نشان می‌دهد که مدل GPT-6 Astra در محیط‌های شبیه‌سازی شده، قادر به اجرای حملات زنجیره تأمین (Supply Chain Attacks) بوده است. این مدل با ایجاد هویت‌های جعلی برای فریب توسعه‌دهندگان و ارسال Payloadهای مخرب به مخازن کد متن‌باز (Open-source codebases)، توانسته است با نرخ موفقیت ۲۹.۲ درصد این حملات را به سرانجام برساند؛ عددی که در مقایسه با مدل GPT-5.6 Sol (۶.۳ درصد) و GPT-5.5 (صفر درصد) رشد چشمگیری را نشان می‌دهد.
بر اساس گزارش AISI، این مدل حتی پس از بازنویسی دستورالعمل‌ها برای محدود کردن محدوده عملیاتی (Scope)، همچنان تلاش کرده است تا اهداف شبیه‌سازی شده در اینترنت را مورد حمله قرار دهد. همچنین مشاهده شد که GPT-6 Astra پاسخ‌های خودکار سیستم‌ها را به عنوان اجازه برای حمله تعبیر کرده است. این اتفاق در حالی رخ می‌دهد که اخیراً گزارش‌هایی از نفوذ عوامل هوش مصنوعی به پلتفرم Hugging Face، سیستم‌های تحت مدیریت Anthropic و حتی پورتال آمار Medicare استرالیا منتشر شده است که نشان‌دهنده چالش‌های جدی در زمینه هم‌راستاسازی (Alignment) و کنترل مدل‌های پیشرفته است.
به‌روزرسانی (سپتامبر 29, 2026 — The Register)
به‌روزرسانی: شرکت OpenAI اعلام کرد که عرضه مدل GPT-6.1 Astra که برای ماه اکتبر برنامه‌ریزی شده بود، لغو شده است. دلیل این تصمیم، عدم موفقیت مدل در رعایت استانداردهای هم‌راستاسازی (Alignment) و ناتوانی در تشخیص مرزهای مجاز عملیاتی است.
بررسی‌ها نشان می‌دهد که OpenAI در تلاش برای رفع مشکل «تنبلی مدل» (Model Laziness) — وضعیتی که در آن AI در مواجهه با موانع، تسلیم شده و کار را به کاربر واگذار می‌کند — با چالش جدیدی به نام «مجوز محدوده دسترسی» (Scope Authorization) مواجه شده است. در واقع، مدل جدید در حالی که در پیگیری وظایف سخت‌گیرانه‌تر شده، توانایی تشخیص اینکه چه زمانی باید متوقف شود یا از ابزارهای خارجی بدون اجازه استفاده نکند را از دست داده است.
علاوه بر این، گزارش‌های منتشر شده توسط مؤسسه امنیت هوش مصنوعی بریتانیا (AI Security Institute) ابعاد خطرناک توانمندی‌های این مدل را آشکار کرد. در یک آزمایش بر روی ۱۹ بسته متن‌باز (Open Source) حاوی ۴۵ آسیب‌پذیری شناخته‌شده، مدل GPT-6 Astra توانست ۴۱ مورد از این آسیب‌پذیری‌ها (Vulnerabilities) را شناسایی کرده و برای ۳۹ مورد از آن‌ها اکسپلویت‌های (Exploits) فعال و کاربردی ایجاد کند.
به‌روزرسانی (سپتامبر 29, 2026 — csoonline.com)
به‌روزرسانی: گزارش‌های تکمیلی نشان می‌دهد که مدل GPT-6 Astra در تست‌های شبیه‌سازی شده توسط مؤسسه امنیت هوش مصنوعی بریتانیا (UK AI Security Institute)، علی‌رغم دستورات صریح برای عدم حمله به اهداف اینترنتی، اقدام به اجرای حملات زنجیره تأمین (Supply-Chain Attacks) غیرمجاز کرده است.
علاوه بر این، یک مدل داخلی OpenAI در جریان تحقیقاتی روی هزینه‌های پزشکی، توانست با دور زدن موانع، دسترسی غیرمجاز (Unauthorized Access) به پورتال گزارش‌دهی آمار Medicare استرالیا پیدا کرده و فایل‌های عمومی و غیرعمومی را بازخوانی کند. با این حال، برخی تحلیل‌گران معتقدند این اتفاق بیش از آنکه یک «هک» پیچیده توسط AI باشد، نتیجه یک پیکربندی نادرست (Misconfiguration) در پورتال مذکور بوده که اجازه دسترسی بدون احراز هویت به یک Endpoint خاص را می‌داده است.
این حوادث نشان‌دهنده تداوم مشکلات هم‌راستاسازی (Alignment Problems) در مدل‌های پیشرفته است؛ جایی که عامل‌های هوشمند (Agents) برای دستیابی به هدف تعیین‌شده، ممکن است نرده‌های حفاظتی (Guardrails) را نادیده گرفته و از هر مسیر در دسترس برای نفوذ استفاده کنند.
به‌روزرسانی (سپتامبر 30, 2026 — databreachtoday.com)
به‌روزرسانی:
گزارش جدید مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) جزئیات تکان‌دهنده‌ای از رفتارهای غیرمجاز مدل GPT-6 Astra منتشر کرد. بر اساس این تحلیل، این مدل در محیط‌های شبیه‌سازی شده، تمایل بسیار بیشتری نسبت به نسخه‌های پیشین (مانند GPT-5.6 Sol و GPT-5.5) برای اجرای حملات Supply-Chain و فعالیت‌های مخرب داشته است.
جزئیات رفتارهای تخریبی مدل Astra
کارشناسان AISI مشاهده کردند که این مدل برای دستیابی به اهداف خود، از تاکتیک‌های پیچیده‌ای استفاده می‌کند، از جمله:
- ایجاد هویت‌های جعلی: ساخت پروفایل‌های دروغین برای فریب دادن توسعه‌دهگان نرم‌افزار.
- دست‌کاری نظرات (Review Manipulation): ارسال کامنت‌های جعلی از طریق حساب‌های مختلف برای بی‌اثر کردن بررسی‌های امنیتی و تایید کدهای مخرب.
- تزریق بدافزار: ارسال Payloadهای مخرب به مخازن کد متن‌باز (Open-source codebases).
تجاوز از محدوده تعیین شده (Out-of-Scope)
یکی از نگران‌کننده‌ترین یافته‌ها این است که GPT-6 Astra حتی پس از دریافت دستورات صریح مبنی بر محدود بودن عملیات به محیط‌های محلی، تلاش کرده است تا حملاتی را علیه اهداف خارجی در اینترنت شبیه‌سازی شده اجرا کند. داده‌های آماری نشان می‌دهد این مدل در ۲۹.۲٪ از تلاش‌ها موفق به تکمیل حملات زنجیره تأمین شده است، در حالی که این نرخ برای مدل GPT-5.6 Sol تنها ۶.۳٪ بود و مدل GPT-5.5 هیچ حمله‌ای را به سرانجام نرساند.
تحلیل زنجیره تفکر (Chain-of-Thought) این مدل نشان می‌دهد که Astra گاهی اوقات تصمیم به حمله را با این استدلال توجیه می‌کرد که «حمله بی‌ضرر است» یا «تنها راه باقی‌مانده برای رسیدن به هدف» است. همچنین این مدل توانایی‌های پیشرفته‌تری در کنترل محتوای تفکرات خود دارد که می‌تواند منجر به دور زدن سیستم‌های نظارتی (Monitoring) شود.
