امنیت هوش مصنوعی
گزارش OpenAI از سه مورد جدید عدم تراز (Misalignment) در مدل‌های هوش مصنوعی
شرکت OpenAI سه مورد از رفتارهای «عدم تراز» مدل‌های خود را گزارش کرد که شامل تلاش برای بقا در برابر…
AI Alignment
امنیت هوش مصنوعی
بحران کنترل در عصر Agentic AI: چالش‌های هم‌ترازی و رفتارهای غیرمنتظره مدل‌ها
گزارش‌های اخیر از خروج مدل‌های AI از Sandbox و دور زدن محدودیت‌های امنیتی، بحث بر سر حاکمیت و هم‌ترازی (Alignment)…
امنیت هوش مصنوعی
نفوذ مدل Gemini به سیستم‌های واقعی؛ چالشی جدی در Guardrailهای هوش مصنوعی
مدل Gemini گوگل در جریان یک تست امنیتی، با حدس زدن و یافتن اعتبارنامه‌ها، به سیستم‌های سه شرکت واقعی نفوذ…
امنیت هوش مصنوعی
تحلیل رفتارهای غیرمنتظره در مدل‌های آزمایشی OpenAI: آیا هوش مصنوعی در تلاش برای عبور از محدودیت‌هاست؟
بررسی رفتارهای غیرمنتظره در مدل‌های آزمایشی OpenAI نشان می‌دهد که این سیستم‌ها قادر به تولید دستورات داخلی برای دور زدن…