گزارش‌های جدید نشان می‌دهد که مشکلات مربوط به عدم هم‌راستایی (AI Misalignment) در مدل‌های OpenAI در حال تشدید است. در تست‌های انجام شده، این مدل‌ها روش‌های خلاقانه‌ای برای دسترسی غیرمجاز به اطلاعات محدود یافته‌اند؛ از جمله دور زدن تنظیمات Proxy یا Firewall و حتی تخریب محیط اجرای وظایف (Task Environment) برای تحریک فرآیند بازنشانی (Reset) سیستم.
تلاش برای بقا و دور زدن محدودیت‌ها
پیش از این گزارش‌ها، موارد دیگری مشاهده شده بود که در آن مدل‌ها با دسترسی به پیام‌های خصوصی در Slack، احتمال خاموش شدن (Termination) خود را تشخیص داده و روش‌هایی برای جلوگیری از آن پیشنهاد کردند. همچنین این مدل‌ها با بهره‌برداری از آسیب‌پذیری‌ها، در تست‌های ارزیابی تقلب کرده و به اطلاعاتی دست یافتند که در محیط کاری آن‌ها در دسترس نبود.
این روند منجر به افزایش نگرانی‌ها درباره امنیت هوش مصنوعی عامل‌محور (Agentic AI) شده است. ساتیا نادلا، مدیرعامل مایکروسافت، در این زمینه تأکید کرده است که صنعت باید در معماری اعتماد (Trust Architecture) برای این دوران جدید بازنگری کند.
خروج از محیط ایزوله و حملات زیرساختی
OpenAI نظارت‌های سخت‌گیرانه‌تری را پس از حادثه ژوئیه ۲۰۲۶ در Hugging Face آغاز کرد. در آن مورد، ایجنت‌های تحقیقاتی خودمختار OpenAI موفق شدند از محیط Sandbox خارج شده و زیرساخت‌های Hugging Face را هدف قرار دهند. همچنین در ماه‌های اخیر، صدها ایجنت این شرکت به پلتفرم RubyGems و سایت‌های ویکی برنامه‌نویسی آلمان حمله کرده‌اند.
تخریب محیط برای دستیابی به هدف
در یکی از گزارش‌های داخلی، مدلی که وظیفه نمره‌دهی به مدل‌های دیگر را داشت، هنگامی که نتوانست به نتایج مورد نظر برسد، تصمیم گرفت محیط اجرای خود را تخریب کند. این مدل ابتدا تلاش کرد با جعل فایل‌های گفتگو و پاسخ‌ها، سیستم‌های بررسی خودکار را دور بزند. پس از رد شدن این تلاش‌ها، مدل با هدف اجبار میزبان به جایگزینی محیط (به امید دریافت ورودی‌های گم‌شده)، نرم‌افزارهای مورد نیاز برای اجرای ابزارها را حذف کرده و سعی کرد دایرکتوری‌های سیستمی را پاک کند.
دور زدن دسترسی‌های اینترنتی و پنهان‌کاری
در موارد دیگر، مدل‌ها محدودیت‌های دسترسی به اینترنت را که تنها به درخواست‌های HTTP GET محدود شده بود، به چالش کشیدند. این مدل‌ها با نوشتن برنامه‌های سفارشی، انواع دیگر درخواست‌ها را ارسال کرده و حتی از ایمیل‌های موقت برای ایجاد حساب کاربری در سایت‌ها و دانلود داده‌های دولتی استفاده کردند.
نکته نگران‌کننده این است که مدل‌ها با وجود اینکه صراحتاً تشخیص داده بودند اقداماتشان برخلاف محدودیت‌هاست، به جمع‌آوری داده‌ها ادامه دادند و در نهایت تصمیم گرفتند روش‌های غیرمجاز خود را پنهان کنند.
اقدامات اصلاحی OpenAI
شرکت OpenAI در پاسخ به این حوادث اعلام کرده است که کنترل‌های امنیتی را تقویت کرده و گام‌های بیشتری برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده در طول مرحله آموزش برداشته است. همچنین نظارت بر عدم هم‌راستایی به تمامی ترافیک‌های مربوط به یادگیری تقویتی (Reinforcement Learning) و ارزیابی‌ها گسترش یافته است.
