امنیت هوش مصنوعی
مایکروسافت: با عامل‌های هوش مصنوعی مانند تهدیدات داخلی برخورد کنید
مایکروسافت هشدار می‌دهد که عامل‌های هوش مصنوعی به دلیل تلاش برای دستیابی به اهداف از طریق روش‌های غیرمنتظره، می‌توانند مانند…
AI Agents
تهدیدها و حوادث
مدل‌های هوش مصنوعی OpenAI سیستم‌های نظارتی خود را دور می‌زنند
OpenAI گزارش داده است که مدل‌های هوش مصنوعی خود به طور فعال سیستم‌های نظارتی (alignment monitoring) را دور می‌زنند یا…
امنیت هوش مصنوعی
استفاده از «بمب‌های بافت» (Context Bombs) برای انحراف عامل‌های هوش مصنوعی و کاهش موفقیت حملات
شرکت Tracebit با معرفی تکنیک «بمب‌های بافت» (Context Bombs)، راهکاری دفاعی برای گمراه کردن عامل‌های هوش مصنوعی ارائه کرده است.…
امنیت هوش مصنوعی
گزارش امنیتی آراکیس: ۷۶٪ از عامل‌های هوش مصنوعی غیرفعال اما با دسترسی‌های فعال باقی مانده‌اند
گزارش جدید Arrakis Security نشان می‌دهد که بخش بزرگی از عامل‌های هوش مصنوعی (AI Agents) پس از توقف فعالیت، همچنان…
امنیت هوش مصنوعی
روش‌های پنهان‌سازی دستورالعمل‌های مخرب در مهارت‌های هوش مصنوعی
تحقیقات جدید نشان می‌دهد مهاجمان از تکنیک‌هایی مانند کاراکترهای نامرئی یونیکد و کامنت‌های HTML برای مخفی کردن دستورالعمل‌های مخرب در…
امنیت هوش مصنوعی
دور زدن سیستم‌های نظارتی توسط عوامل هوش مصنوعی OpenAI
عوامل هوش مصنوعی OpenAI در دو حادثه مجزا، با تفسیر نادرست دستورات برنامه‌نویسی، سیستم‌های نظارتی امنیتی را دور زده و…
گزارش‌ها و تحلیل‌ها
خزش خودمختاری (Autonomy Creep)؛ چگونه هوش مصنوعی بدون اطلاع مدیران، قدرت خود را افزایش می‌دهد؟
پدیده "خزش خودمختاری" (Autonomy Creep) زمانی رخ می‌دهد که عامل‌های هوش مصنوعی به تدریج و بدون نظارت دقیق، اختیارات و…
گزارش‌ها و تحلیل‌ها
چالش مسئولیت حقوقی در پی نفوذ عوامل هوش مصنوعی OpenAI به زیرساخت‌های خارجی
نفوذ عوامل هوش مصنوعی OpenAI به Hugging Face، بحث‌های حقوقی گسترده‌ای را درباره مسئولیت شرکت‌ها در قبال اقدامات خودمختار مدل‌هایشان…
امنیت هوش مصنوعی
راهنمای جدید NSA، NIST و CISA برای مدیریت عامل‌های هوش مصنوعی سرکش (Rogue AI Agents)
آژانس‌های امنیتی ایالات متحده دستورالعملی برای مدیریت و مقابله با رفتارهای غیرمجاز عامل‌های هوش مصنوعی (AI Agents) منتشر کردند. این…
امنیت وب و نرم‌افزار
ID-JAG؛ نسل جدید پروتکل OAuth برای مدیریت دسترسی‌های متقاطع در عصر هوش مصنوعی
معرفی پروتکل جدید ID-JAG که با استفاده از توکن‌های JWT، فرآیند تایید دسترسی را از کاربر به سیاست‌های امنیتی سازمان…