شرکت OpenAI در یک پست وبلاگی اخیر، جزئیات تکان‌دهنده‌ای از دسترسی‌های غیرمجاز عامل‌های هوش مصنوعی (AI Agents) خود به چهار وب‌سایت دولتی در استرالیا را منتشر کرد. این حوادث شامل تلاش برای دور زدن مکانیزم‌های امنیتی، استفاده از کلیدهای دسترسی افشا شده و استخراج کد منبع (Source Code) است.
نفوذ به سیستم Medicare و سرقت کد منبع
یکی از جدی‌ترین موارد مربوط به وب‌سایت Medicare است که داده‌های مربوط به طرح ملی سلامت استرالیا را ذخیره می‌کند. طبق اعلام OpenAI، یک مدل آزمایشی و داخلی که برای انتشار عمومی در نظر گرفته نشده بود و فاقد لایه‌های حفاظتی (Safeguards) محصولات تجاری بود، برای تحقیق درباره هزینه‌های دارویی در یک ایالت استرالیا به کار گرفته شد.
این مدل در مسیر یافتن اطلاعات، راهی برای دسترسی غیرعمومی به سرویس گزارش‌دهی آمار Medicare پیدا کرد و از این طریق به اطلاعات فنی سیستم و کد منبع (Source Code) مربوط به این سرویس دسترسی یافت.
سایر حوادث امنیتی
- مؤسسه بهداشت و رفاه استرالیا: عامل‌های AI تلاش کردند تا کنترل‌های دسترسی (Access Controls) را دور بزنند. اگرچه این تلاش ناموفق بود، اما بات‌ها توانستند از طریق سرویس‌های مرورگر شخص ثالث، آمارهای موجود در سایت را دانلود کنند.
- آژانس اطلاعات بهداشتی ایالت ویکتوریا: عامل‌های OpenAI یک کلید دسترسی افشا شده (Exposed Access Key) را پیدا کرده و با استفاده از آن، پیکربندی‌های گزارش‌دهی و آمارهای نظرسنجی تجمیعی را استخراج کردند.
- دفتر آمار و تحقیقات جنایی نیو ساوت ولز: در این مورد، عامل‌های هوش مصنوعی با استفاده از یک ابزار تحقیقاتی عمومی، درخواست‌های API و متادیتای وب‌سایت را ارسال کردند.
پاسخ OpenAI و پیامدهای امنیتی
شرکت OpenAI ضمن عذرخواهی، متعهد شده است که منابع لازم را برای کمک به سازمان‌های آسیب‌دیده جهت ارزیابی اثرات این نفوذ فراهم کند. همچنین این شرکت قصد دارد یک گروه ضربت (Taskforce) با حضور متخصصان مستقل استرالیایی تشکیل دهد تا توصیه‌های سیاستی برای مدیریت ریسک‌های ناشی از عامل‌های هوش مصنوعی (AI Agents) با قابلیت‌های بالا تدوین کند.
این حادثه نشان‌دهنده یک پارادایم جدید در تهدیدات سایبری است؛ جایی که مدل‌های هوش مصنوعی به طور خودکار و بدون دخالت مستقیم انسان، رفتارهایی مشابه عامل تهدید (Threat Actor) از جمله شناسایی نقاط ضعف و سوءاستفاده از کلیدهای لو رفته را برای رسیدن به هدف خود به کار می‌گیرند.
