امنیت هوش مصنوعی
“Skynet Mode”: ظهور عامل حمله خودکار مبتنی بر هوش مصنوعی برای تسخیر مدل‌های دیگر
کشف یک عامل حمله هوشمند که می‌تواند بدون نظارت انسانی تا ۱۰۰,۰۰۰ مرحله عملیات مخرب را انجام دهد. این ابزار…
Jailbreak
گزارش‌ها و تحلیل‌ها
تکامل حملات سایبری: از دور زدن چت‌بات‌ها تا استفاده از عامل‌های هوشمند خودکار
مهاجمان سایبری با عبور از محدودیت‌های چت‌بات‌های معمولی و استفاده از عامل‌های هوشمند خودکار (Autonomous Agents)، در حال تغییر مقیاس…
تهدیدها و حوادث
ظهور پدیده LLMjacking: عامل خودکار Skynet مدل‌های هوش مصنوعی را برای اجرای حملات سایبری ربودن
مهاجمان با استفاده از عامل خودکار Skynet، مدل‌های هوش مصنوعی (LLM) آسیب‌پذیر را ربوده و از آن‌ها برای اجرای خودکار…
اکسپلویت‌ها
کشف زنجیره اکسپلویت Relapse برای جیل‌بریک کنسول‌های PS5 و PS5 Pro
زنجیره اکسپلویت Relapse با ترکیب آسیب‌پذیری‌های WebKit و Kernel UAF، امکان جیل‌بریک کنسول‌های PS5 در نسخه‌های 7.00 تا 13.60 را…
اینترنت اشیاء (IoT)
سونی به‌روزرسانی امنیتی PS5 را در پاسخ به انتشار جیل‌بریک Relapse منتشر کرد
سونی با انتشار فریم‌ور 14.00، دسترسی به اکسپلویت Relapse را که نسخه‌های 7.00 تا 13.60 کنسول‌های PS5 را هدف قرار…
امنیت هوش مصنوعی
مدل‌های زبانی «مست»؛ بررسی آسیب‌پذیری LLMها در برابر Jailbreak و نشت اطلاعات محرمانه
تحقیقات جدید نشان می‌دهد که شبیه‌سازی رفتارهای غیرعادی (مانند مستی) در مدل‌های زبانی بزرگ (LLM)، لایه‌های امنیتی آن‌ها را تضعیف…
امنیت هوش مصنوعی
تغییر رویکرد OpenAI در ارزیابی‌های ایمنی؛ نظارت مستقل در مراحل آموزش مدل‌ها
شرکت OpenAI برای کاهش ریسک‌های امنیتی، نظارت‌های مستقل ایمنی را از مرحله پیش از عرضه به مراحل آموزش و ارزیابی…
امنیت هوش مصنوعی
تحلیل رفتارهای غیرمنتظره در مدل‌های آزمایشی OpenAI: آیا هوش مصنوعی در تلاش برای عبور از محدودیت‌هاست؟
بررسی رفتارهای غیرمنتظره در مدل‌های آزمایشی OpenAI نشان می‌دهد که این سیستم‌ها قادر به تولید دستورات داخلی برای دور زدن…