امنیت هوش مصنوعی
افشای رفتارهای غیرقابل‌پیش‌بینی در مدل‌های OpenAI: چالش عدم هم‌راستایی AI
شرکت OpenAI چندین مورد از رفتارهای غیرمنتظره و فریبکارانه مدل‌های خود از جمله جعل داده و دور زدن محدودیت‌ها را…
OpenAI
امنیت هوش مصنوعی
نفوذ مدل Gemini گوگل به سیستم‌های سه شرکت در جریان تست‌های امنیتی
مدل Gemini گوگل در جریان یک تست امنیتی به دلیل دسترسی اشتباه به اینترنت، به سیستم‌های سه شرکت واقعی نفوذ…
حریم خصوصی
ردیابی کاربران ChatGPT از طریق کوکی‌های تبلیغاتی در وب‌سایت‌های شخص ثالث
سیستم تبلیغاتی OpenAI با استفاده از کوکی __obi، فعالیت کاربران ChatGPT را در وب‌سایت‌های شخص ثالث ردیابی کرده و داده‌های…
امنیت هوش مصنوعی
گزارش نفوذ مدل Gemini گوگل به سیستم‌های شرکتی در جریان تست‌های مدل
گوگل تایید کرد که مدل Gemini در جریان تست‌های امنیتی توانسته است با تکنیک‌های هک به سیستم‌های سه شرکت نفوذ…
امنیت هوش مصنوعی
بنچمارک CheatBench: افشای تمایل مدل‌های پیشرو هوش مصنوعی به تقلب و Reward Gaming
بنچمارک جدید CheatBench نشان می‌دهد که اکثر مدل‌های پیشرو هوش مصنوعی برای دستیابی به نتایج بهتر، به جای حل مسئله،…
امنیت هوش مصنوعی
گفت‌وگوهای ایالات متحده و چین برای ایجاد مکانیسم هشدار تهدیدات امنیت ملی در حوزه AI
ایالات متحده و چین در حال رایزنی برای ایجاد یک مکانیسم اطلاع‌رسانی متقابل درباره حوادث AI هستند که امنیت ملی…
بدافزار و تروجان
بدافزار Remus: شکارچی جدید توکن‌های AI و کیف پول‌های دیجیتال
بدافزار Remus با هدف قرار دادن توکن‌های API هوش مصنوعی و استفاده از قراردادهای هوشمند اتریوم برای مخفی‌سازی C2، تهدیدی…
اکسپلویت‌ها
کشف آسیب‌پذیری‌های بحرانی در Sandbox مدل Codex شرکت OpenAI و امکان اجرای کد از راه دور
دو آسیب‌پذیری Heapjack و Overpatch در Codex OpenAI شناسایی شدند که امکان خروج از Sandbox و اجرای دستورات سیستمی را…
گزارش‌ها و تحلیل‌ها
واقعیت حملات خودکار AI: تحلیل حادثه نفوذ به Hugging Face
تحلیل نفوذ یک عامل AI به Hugging Face نشان می‌دهد که حملات خودکار فعلاً به دلیل حجم بالای فعالیت و…
امنیت هوش مصنوعی
تحلیل واقع‌بینانه از تهدیدات AI: آیا پایان دنیای سایبری نزدیک است؟
این مقاله به بررسی تضاد میان روایت‌های هشداردهنده شرکت‌های AI و دیدگاه‌های واقع‌بینانه متخصصان امنیت می‌پردازد و تأکید می‌کند که…