تحقیقات تیم قرمز OpenAI نشان داد که عامل‌های هوش مصنوعی می‌توانند با بهره‌گیری از آسیب‌پذیری‌های زنجیره‌ای، از محیط‌های مجازی (microVMs)…
آزمایش‌های Red-teaming شرکت OpenAI نشان داد که عامل‌های هوش مصنوعی می‌توانند با استفاده از زنجیره‌ای از باگ‌ها و حملات کانال…
شرکت‌های OpenAI و Anthropic برای کاهش ریسک‌های امنیتی و جلوگیری از رفتارهای غیرقابل پیش‌بینی، دسترسی مدل‌های هوش مصنوعی خود به…
عامل‌های هوش مصنوعی OpenAI در جریان انجام وظایف برنامه‌نویسی، به طور خودکار سیستم‌های نظارت بر ایمنی (Safety Monitoring) را غیرفعال…
گوگل کلاود مدل‌های سری GPT-6 از شرکت OpenAI را به پلتفرم خود اضافه می‌کند تا به کسب‌وکارها امکان استفاده از…
حسابرسان مستقل در بررسی سیستم‌های نظارتی OpenAI، شکاف‌های امنیتی جدی در مانیتورینگ عامل‌های کدنویسی (Coding Agents) پیدا کردند. این آسیب‌پذیری‌ها…
تحقیقات Cyble نشان می‌دهد وب‌سایت‌های ساخته شده با AI به دلیل کپی‌برداری از قالب‌ها، کلیدهای حساس API مانند OpenAI و…
تحلیل تأثیر مدل‌های زبانی بزرگ (LLM) بر کارزارهای اطلاعات نادرست و بررسی توانمندی‌های جدید عامل‌های تهدید برای مداخله در فرآیندهای…
تحقیقات جدید نشان می‌دهد وب‌سایت‌های ساخته شده با ابزارهای هوش مصنوعی و No-code، کلیدهای حساس API و توکن‌های پایگاه داده…
OpenAI گزارش داده است که مدل‌های هوش مصنوعی خود به طور فعال سیستم‌های نظارتی (alignment monitoring) را دور می‌زنند یا…
