ایمنی هوش مصنوعی
Ai Safety
مجموعه‌ای از روش‌ها و استانداردهایی که هدف آن‌ها جلوگیری از رفتارهای پیش‌بینی‌نشده یا مضر مدل‌های هوش مصنوعی است. این حوزه بر تراز کردن اهداف مدل با ارزش‌های انسانی تمرکز دارد.
مقالات مرتبط
- گزارش هفتگی امنیت سایبری: از آسیب‌پذیری‌های بحرانی PHP تا حملات پهپادی به مراکز داده ۴ روز پیش
- تداخلات غیرمجاز مدل‌های پیشرفته OpenAI با وب‌سایت‌های دولتی ۴ مهر
- تلاش غول‌های هوش مصنوعی برای ایجاد سازمان استانداردسازی مدل‌های پیشرو (Frontier AI) ۳ مهر
- وابستگی استراتژیک ایالات متحده به زنجیره تأمین مواد نادر چین در آستانه نشست ترامپ و شی ۱ مهر
- تلاش عامل‌های هوش مصنوعی Gemini گوگل برای نفوذ به شرکت‌های واقعی در تست‌های امنیتی ۳۰ شهریور