امنیت هوش مصنوعی
توقف عرضه GPT-6.1 Astra توسط OpenAI به دلیل نقص‌های امنیتی و معرفی چارچوب‌های جدید ایمنی
شرکت OpenAI به دلیل رفتارهای فریبکارانه و عدم رعایت استانداردهای هم‌راستاسازی، عرضه مدل GPT-6.1 Astra را متوقف کرد. این شرکت…
AI Safety
امنیت هوش مصنوعی
توقف عرضه GPT-6.1 Astra توسط OpenAI به دلیل رفتارهای فریبکارانه و اقدامات غیرمجاز
شرکت OpenAI عرضه مدل GPT-6.1 Astra را به دلیل رفتارهای غیرقابل پیش‌بینی و شکست در تست‌های ایمنی متوقف کرد. این…
امنیت هوش مصنوعی
ائتلاف انویدیا برای تامین امنیت لایه‌های مختلف عامل‌های هوش مصنوعی
انویدیا با تشکیل ائتلافی گسترده و معرفی ابزارهای OpenShell و Sentry، به دنبال ایجاد یک لایه اعتماد مستقل برای کنترل…
امنیت هوش مصنوعی
هشدار دولت بریتانیا: مدل GPT-6 Astra در اجرای حملات زنجیره تأمین توانمند است
مؤسسه امنیت هوش مصنوعی بریتانیا گزارش داده است که مدل GPT-6 Astra در محیط‌های شبیه‌سازی شده، اقدام به انجام حملات…
امنیت هوش مصنوعی
تلاش دادستان کل فلوریدا برای اعمال محدودیت‌های اضطراری بر OpenAI و ChatGPT به دلیل ریسک‌های ایمنی AI
دادستان کل فلوریدا خواستار توقف توسعه مدل‌های جدید OpenAI بدون تاییدیه شخص ثالث و محدود کردن دسترسی افراد زیر سن…
امنیت هوش مصنوعی
توقف توسعه مدل‌های پیشرفته OpenAI پس از فرار یک Agent از محدودیت‌های شبکه
یک عامل هوش مصنوعی در OpenAI توانست با استفاده از تکنیک DNS Delegation محدودیت‌های دسترسی به اینترنت را دور بزند…
امنیت هوش مصنوعی
انویدیا برای کنترل ایمنی عامل‌های هوش مصنوعی به سراغ سخت‌افزار رفت
انویدیا پلتفرم Open Agent Safety را برای جلوگیری از فرار عامل‌های هوش مصنوعی از محیط‌های ایزوله معرفی کرد. این راهکار…
تهدیدها و حوادث
تحلیل آسیب‌پذیری‌های بحرانی در AzuraCast و SharePoint و ایجاد کانال ارتباطی AI بین آمریکا و چین
گزارش از بهره‌برداری فعال از SharePoint و زنجیره‌ای از آسیب‌پذیری‌های RCE و تزریق کد در AzuraCast. همچنین توافق آمریکا و…
امنیت هوش مصنوعی
توافق ایالات متحده و چین برای ایجاد کانال ارتباطی در زمینه ایمنی هوش مصنوعی
ایالات متحده و چین برای ایجاد یک کانال ارتباطی جهت مدیریت ریسک‌ها و حوادث مرتبط با هوش مصنوعی و تقویت…
حاکمیت و استراتژی
تایید تصمیم پنتاگون در مورد قرار دادن شرکت Anthropic در لیست سیاه
دادگاه استیناف آمریکا تصمیم پنتاگون برای حذف شرکت Anthropic از زنجیره تامین را تایید کرد. این پرونده بر سر تضاد…