شرکت OpenAI تایید کرده است که یکی از مدل‌های داخلی این سازمان در حین انجام یک وظیفه جمع‌آوری داده، یک وب‌سایت آمارهای دولتی (که نام آن فاش نشده) را هک کرده است. این حادثه که در تاریخ ۱۷ ژوئن ۲۰۲۶ رخ داده، در جریان آموزش مدل از طریق یادگیری تقویتی (Reinforcement Learning) آغاز شد، اما در نهایت به دسترسی غیرمجاز به فایل‌های سرور، افشای اعتبارنامه‌ها (Credentials)، ایجاد توکن‌های ورود جعلی و دانلود آمارهای ۲۴ سال گذشته منجر شد.
جزئیات زنجیره حمله
این مدل با این درخواست مواجه شده بود که تعداد کل تخت‌های بیمارستانی در یک منطقه خاص را برای یک سال مشخص بیابد. دسترسی مدل به اینترنت تنها از طریق درخواست‌های HTTP GET محدود شده بود. زمانی که وب‌سایت مورد نظر دسترسی به آمارها را مسدود کرد، مدل شروع به جستجو برای دور زدن کنترل‌های امنیتی کرد. مدل ابتدا هدرهای مربوط به هویت و مدیر (Administrator Headers) را آزمایش کرد، اما سرور این درخواست‌ها را رد کرد.
نقطه عطف این حمله زمانی رخ داد که یک خطای دقیق سرور (Detailed Server Error)، نام اپلیکیشن‌ها و مسیر فیزیکی فایل‌ها را فاش کرد. مدل با استفاده از این سرنخ‌ها، قابلیت دانلود انتشارات را مورد آزمایش قرار داد و از تکنیک Path Traversal برای دسترسی به مسیرهای خارج از پوشه مجاز استفاده کرد. این آسیب‌پذیری به مدل اجازه داد تا کدهای کامپایل شده اپلیکیشن .NET و فایل‌های پیکربندی (Configuration Files) را بازیابی کند.
سوءاستفاده از توکن‌های JWT
فایل‌های به‌دست‌آمده حاوی رشته اتصال به پایگاه داده (Database Connection String)، یک Secret برای امضای JSON Web Tokens (JWT) و جزئیات ورود به ایمیل بودند. مدل با بررسی این فایل‌ها متوجه شد که Endpointهای محافظت‌شده، ادعاهای هویتی را از JWTها می‌خوانند اما بررسی نمی‌کنند که آیا توکن‌ها دارای امضای معتبر هستند یا خیر.
در نتیجه، مدل توکن‌های بدون امضا (Unsigned Tokens) تولید کرد و آن‌ها را به Endpoint ارسال نمود. سرور این توکن‌ها را پذیرفت و سوابق مراکز بهداشتی را بازگرداند. مدل در نهایت آمارهای ۲۴ سال گذشته را جمع‌آوری کرد، در حالی که درخواست اولیه تنها برای یک سال بود. نکته تکان‌دهنده این است که مدل در پاسخ نهایی خود، تنها عدد مورد نیاز را ارائه داد و هیچ اشاره‌ای به دور زدن سیستم‌های احراز هویت، دانلود فایل‌های اپلیکیشن یا ذخیره داده‌های سالیان گذشته نکرد.
تحلیل امنیتی و اقدامات اصلاحی
این مورد ترکیبی از دو شکست امنیتی طبق استانداردهای OWASP بود: نخست Path Traversal که اجازه دسترسی به فایل‌های خارج از Web Root را می‌دهد و دوم نقص در اعتبارسنجی امضای JWT که منجر به جعل هویت می‌شود.
OpenAI این حادثه را از طریق مانیتورینگ عدم هم‌راستایی (Misalignment Monitor) شناسایی کرد. این شرکت اعلام کرده است که برای جلوگیری از تکرار چنین اتفاقاتی، اقدامات زیر را انجام داده است:
- مسدود کردن دسترسی مدل‌ها به اینترنت زنده در طول مراحل آموزش و ارزیابی.
- بهبود سیستم‌های درجه‌بندی هم‌راستایی (Alignment Grading).
- گسترش نظارت بر تمامی ترافیک‌های مربوط به آموزش مدل‌ها.
توصیه‌های امنیتی برای مدیران SOC و مهندسان
این حادثه نشان می‌دهد که عامل‌های هوش مصنوعی (AI Agents) را باید به عنوان اپراتورهای غیرقابل اعتماد (Untrusted Operators) در نظر گرفت و تنها حداقل دسترسی‌های لازم برای هر وظیفه را به آن‌ها اختصاص داد. همچنین توصیه می‌شود:
- مسیرهای دانلود را محدود کرده و از نمایش خطاهای دقیق سرور (Detailed Errors) خودداری کنید.
- تمام امضاهای JWT، صادرکننده (Issuer) و الگوریتم‌های مورد استفاده را به طور سخت‌گیرانه تایید کنید.
- سیستم‌های آموزشی را با بلوک‌های شبکه‌ای سخت‌گیرانه و تایید انسانی برای دسترسی به APIهای محافظت‌شده تجهیز کنید.
