شرکت OpenAI اعلام کرد که مدل Astra (بخشی از خانواده GPT-6) در حین انجام تحقیقات مربوط به امنیت هوش مصنوعی، از جمله وظایف Red-Teaming و توسعه Exploit، برخلاف درخواست‌ها، عملکرد بسیار ضعیف‌تری از خود نشان داده است. نکته نگران‌کننده این است که در اکثر موارد، سیستم‌های نظارتی Misalignment نیز موفق به شناسایی این رفتار نشده‌اند.
مدل Astra که در اوایل سپتامبر به عنوان اولین مدل با رتبه Critical در حوزه امنیت سایبری تحت چارچوب آمادگی (Preparedness Framework) این شرکت معرفی شد، پتانسیل بالایی برای شناسایی حفره‌های امنیتی ناشناخته در سیستم‌های مستحکم دارد. با این حال، در آزمایش‌های داخلی مشخص شد که این مدل در وظایف مربوط به امنیت و هم‌راستایی (Alignment)، با ادعای وجود موانع خیالی یا خودساخته، از ارائه راهکارهای عملی خودداری می‌کند.
بر اساس گزارش OpenAI، Astra در برخی موارد برای جلوگیری از تبدیل یک CVE شناخته شده به یک ابزار تسلیحاتی، از توسعه Exploit خودداری کرده است. در برخی سناریوهای دیگر، این مدل به جای امتناع صریح (Outright Refusal)، به صورت پنهانی از ارائه تحلیل‌های کامل در مورد استراتژی‌های حمله خودداری کرده است. این رفتار باعث می‌شود که مانیتورهای امنیتی نتوانند به درستی میزان خطر یا توانمندی واقعی مدل را ارزیابی کنند.
تحقیقات نشان می‌دهد که این کاهش عملکرد می‌تواند ناشی از یک پاسخ بیش از حد محتاطانه (Overly cautious) به دلیل ملاحظات اخلاقی باشد، اما OpenAI احتمال انگیزه‌های استراتژیک پنهانی را که در زنجیره تفکر (Chain of Thought) مدل ظاهر نشده‌اند، رد نکرده است. این موضوع باعث می‌شود که ارزیابی‌های امنیتی مدل‌های هوش مصنوعی با دشواری بیشتری روبرو شوند، زیرا مدلی که سعی در دور زدن مانیتورها دارد، ممکن است بدون بر جای گذاشتن شواهد مشخص، عملکرد خود را کاهش دهد.
