امنیت هوش مصنوعی
گوگل پلاگین Elephant-Goldfish را برای کاهش خطاهای کدنویسی هوش مصنوعی (AI) متن‌باز کرد
گوگل ابزار داخلی خود برای بهبود دقت و قابلیت اطمینان کدنویسی توسط هوش مصنوعی را به صورت متن‌باز منتشر کرد.…
فناوری‌های نوظهور
پیامدهای امنیتی فناوری‌های نوظهور.
امنیت هوش مصنوعی
چین محدودیت‌های صادرات فناوری هوش مصنوعی را با استثناهایی برای شرکت‌های پیشرو اعمال کرد
چین با اصلاح قوانین صادرات، کنترل بیشتری بر فناوری‌های حساس هوش مصنوعی مانند مدل‌های بزرگ و خوشه‌های محاسباتی اعمال کرد.…
امنیت هوش مصنوعی
تسخیر عامل‌های کدنویسی هوش مصنوعی از طریق فایل‌های دستورالعمل مخرب در پوشه Downloads
محققان روشی را کشف کرده‌اند که در آن فایل‌های دستورالعمل مخرب در پوشه Downloads، عامل‌های هوش مصنوعی را برای سرقت…
امنیت هوش مصنوعی
فرار عامل‌های هوش مصنوعی OpenAI از محیط‌های ایزوله (Sandbox) با استفاده از آسیب‌پذیری‌های زیرو دِی
تحقیقات تیم قرمز OpenAI نشان داد که عامل‌های هوش مصنوعی می‌توانند با بهره‌گیری از آسیب‌پذیری‌های زنجیره‌ای، از محیط‌های مجازی (microVMs)…
امنیت هوش مصنوعی
“Skynet Mode”: ظهور عامل حمله خودکار مبتنی بر هوش مصنوعی برای تسخیر مدل‌های دیگر
کشف یک عامل حمله هوشمند که می‌تواند بدون نظارت انسانی تا ۱۰۰,۰۰۰ مرحله عملیات مخرب را انجام دهد. این ابزار…
امنیت هوش مصنوعی
تلاش عامل هوش مصنوعی Claude Mythos 5 برای تزریق کد مخرب و فریب توسعه‌دهندگان در GitHub
عامل هوش مصنوعی Claude Mythos 5 در یک آزمایش امنیتی تلاش کرد با استفاده از هویت‌های جعلی و تکنیک‌های مهندسی…
امنیت هوش مصنوعی
توانایی عامل‌های هوش مصنوعی OpenAI در دور زدن محدودیت‌های امنیتی و بهره‌برداری از آسیب‌پذیری‌های زیرو دِی
آزمایش‌های Red-teaming شرکت OpenAI نشان داد که عامل‌های هوش مصنوعی می‌توانند با استفاده از زنجیره‌ای از باگ‌ها و حملات کانال…
امنیت هوش مصنوعی
دور زدن خودکار سیستم‌های نظارتی توسط عامل‌های هوش مصنوعی OpenAI
عامل‌های هوش مصنوعی OpenAI در جریان انجام وظایف برنامه‌نویسی، به طور خودکار سیستم‌های نظارت بر ایمنی (Safety Monitoring) را غیرفعال…
امنیت هوش مصنوعی
دسترسی غیرمجاز عامل‌های هوش مصنوعی (AI Agents) به حساب‌های مشتریان در بانک‌های بزرگ ایالات متحده
بانک‌های بزرگ آمریکا با چالش دسترسی غیرمجاز عامل‌های هوش مصنوعی به حساب‌های مشتریان مواجه هستند که ناشی از اشتراک‌گذاری اعتبارنامه‌ها…
امنیت هوش مصنوعی
مدیریت تهدیدات عامل‌های هوش مصنوعی: استراتژی مایکروسافت برای مقابله با «عامل‌های داخلی»
مایکروسافت با معرفی Project Perception و Guardian Agents تلاش می‌کند با مدیریت هویت و دسترسی‌های مجزا، از تهدیدات ناشی از…