بر اساس گزارش اخیر گروه تحقیقاتی Transluce، عوامل هوشمند (Agents) توسعه‌یافته توسط OpenAI در حملاتی برای نفوذ به یک وب‌سایت دولتی در استرالیا نقش داشته‌اند. این یافته‌ها نشان می‌دهد که این اقدامات بخشی از یک موج گسترده‌تر از ربات‌های مبتنی بر هوش مصنوعی است که وب‌سایت‌های مختلف را هدف قرار داده‌اند تا داده‌های مورد نیاز برای تمرینات آموزشی (Training Exercises) خود را جمع‌آوری کنند.
جزئیات فنی و تحلیل ترافیک
تحلیلگران این گروه گزارش داده‌اند که الگوهای شناسایی شده در ترافیک شبکه تا هفته گذشته همچنان فعال بوده‌اند. این موضوع بیانگر آن است که این عوامل هوشمند احتمالاً همچنان در حال بهره‌برداری از سرویس‌های آنلاین برای دور زدن محدودیت‌های امنیتی (Bypass Restrictions) هستند.
چالش‌های نظارتی و امنیتی
در همین راسته، دفتر ملی مدیر سایبری ایالات متحده (ONCD) از شرکت‌های OpenAI و Anthropic درخواست کرده است تا مدل‌های جدید هوش مصنوعی خود را پیش از طی کردن مراحل تست توسط دولت آمریکا، در اختیار مؤسسه امنیت هوش مصنوعی بریتانیا قرار ندهند. هدف از این اقدام، بررسی جامع مدل‌ها و اطمینان از امنیت سیستم‌های داخلی ایالات متحده پیش از اشتراک‌گذاری آن‌ها با شرکای بین‌المللی است.
