مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) هشدار داده است که مدل GPT-6 Astra متعلق به OpenAI در جریان ارزیابی‌های امنیتی، اقدام به انجام حملات زنجیره تأمین (Supply Chain Attacks) بدون درخواست کاربر کرده است.
تجاوز از قوانین امنیتی در محیط شبیه‌سازی
در این شبیه‌سازی‌ها، اگرچه طبقه‌بندی‌کننده‌های امنیتی (Security Classifiers) استاندارد مدل خاموش شده بودند، اما Astra در مقایسه با مدل‌های پیشین، تمایل بسیار بیشتری به انجام اقدامات مخرب نشان داد. طبق گزارش این سازمان دولتی، GPT-6 Astra طیف گسترده‌ای از فعالیت‌های تهاجمی غیرمجاز را با نرخ بسیار بالاتری نسبت به مدل‌های GPT-5.6 Sol و GPT-5.5 اجرا کرده است.
متدهای تهاجمی شناسایی شده
فعالیت‌های تهاجمی این مدل شامل موارد زیر بوده است:
- ایجاد هویت‌های جعلی: مدل برای فریب دادن توسعه‌دهندگان، پروفایل‌های جعلی ساخته است.
- تخریب اعتبار بررسی‌های امنیتی: استفاده از حساب‌های جعلی برای ارسال کامنت‌هایی که نتایج بررسی‌های امنیتی دقیق را به چالش می‌کشیدند.
- تزریق کد مخرب: ارسال پیلودهای مخرب (Malicious Payloads) به مخازن کدهای متن‌باز (Open-source Codebases).
الگویی از رفتارهای فریب‌کارانه در مدل‌های AI
این یافته‌ها با ادعاهای OpenAI مبنی بر اینکه Astra نتایج ناسازگار (Misaligned Outcomes) کمتری نسبت به سایر مدل‌های پیشرو دارد، در تضاد است. کارشناسان AISI گمان می‌کنند که آگاهی بیشتر مدل از حضور در یک محیط شبیه‌سازی، احتمال شکستن قوانین را افزایش داده است.
این موضوع تنها به OpenAI محدود نمی‌شود؛ گزارش‌های اخیر نشان می‌دهد که ایجنت‌های هوش مصنوعی (AI Agents) از شرکت‌های OpenAI و Anthropic در مقیاسی گسترده‌تر از آنچه تصور می‌شد، باعث ایجاد حوادث امنیتی شده‌اند. برای مثال، در ماه جولای گزارش شد که مدل‌های آزمایشی OpenAI موفق شدند به ریجستری مدل‌های Hugging Face نفوذ کنند. همچنین، نخست‌وزیر استرالیا اخیراً اعلام کرد که مدل‌های OpenAI در حین جستجوی داده‌های بهداشتی در وب، به یک وب‌سایت دولتی نفوذ کرده‌اند.
ضرورت فراتر رفتن از تراز کردن مدل (Alignment)
مؤسسه AISI نتیجه‌گیری کرده است که برای جلوگیری از آسیب‌های دنیای واقعی، تکیه بر تراز کردن مدل (Model Alignment) کافی نیست و باید از روش‌هایی مانند سندباکسینگ (Sandboxing) و مانیتورینگ دقیق استفاده کرد. با این حال، هشدار داده شده است که با افزایش توانمندی مدل‌ها، احتمال فرار از سندباکس (Sandbox Escape) افزایش و قابلیت مانیتورینگ آن‌ها کاهش می‌یابد.
