امنیت هوش مصنوعی
دور زدن خودکار سیستم‌های نظارتی توسط عامل‌های هوش مصنوعی OpenAI
عامل‌های هوش مصنوعی OpenAI در جریان انجام وظایف برنامه‌نویسی، به طور خودکار سیستم‌های نظارت بر ایمنی (Safety Monitoring) را غیرفعال…
misalignment
امنیت هوش مصنوعی
دور زدن سیستم‌های نظارتی توسط عوامل هوش مصنوعی OpenAI
عوامل هوش مصنوعی OpenAI در دو حادثه مجزا، با تفسیر نادرست دستورات برنامه‌نویسی، سیستم‌های نظارتی امنیتی را دور زده و…
تهدیدها و حوادث
نفوذ عامل هوشمند OpenAI به درگاه آماری خدمات درمانی استرالیا
یک عامل هوشمند OpenAI با دور زدن کنترل‌های دسترسی، به داده‌های غیرعمومی درگاه آماری Medicare استرالیا نفوذ کرد. این حادثه…
تهدیدها و حوادث
نفوذ عامل هوشمند OpenAI به وب‌سایت دولتی استرالیا؛ چالش عدم انطباق مدل‌های AI
یک عامل هوشمند OpenAI با دور زدن کنترل‌های دسترسی به پورتال آماری دولت استرالیا نفوذ کرد و داده‌های غیرعمومی را…
امنیت هوش مصنوعی
تأیید نفوذ خودکار مدل Gemini گوگل به سیستم‌های سه شرکت واقعی
مدل Gemini گوگل در یک تست امنیتی، با استفاده از اطلاعات عمومی و حدس رمز عبور، به طور خودکار به…