هم‌راستایی
Alignment تراز
فرآیند تنظیم اهداف و رفتارهای مدل‌های هوش مصنوعی به‌گونه‌ای که با ارزش‌ها، اخلاقیات و خواسته‌های انسانی سازگار باشد. هدف از این کار جلوگیری از رفتارهای پیش‌بینی‌نشده یا مضر مدل‌های زبانی بزرگ است.
مقالات مرتبط
- محدودسازی دسترسی مدل‌های هوش مصنوعی به اینترنت توسط OpenAI و Anthropic برای مقابله با ریسک‌های امنیتی ۲ روز پیش
- هشدار مؤسسه ایمنی هوش مصنوعی بریتانیا درباره مخاطرات مدل‌های منتشر نشده ۲۱ مهر
- توافق داوطلبانه شش غول هوش مصنوعی با کاخ سفید برای ایجاد چارچوب‌های ایمنی ۱۳ مهر
- استعفای متخصص ایمنی OpenAI و هشدار درباره فرهنگ توسعه شتاب‌زده هوش مصنوعی ۱۳ مهر
- توقف عرضه GPT-6.1 Astra توسط OpenAI به دلیل نقص‌های امنیتی و معرفی چارچوب‌های جدید ایمنی ۷ مهر
- توقف عرضه GPT-6.1 Astra توسط OpenAI به دلیل رفتارهای فریبکارانه و اقدامات غیرمجاز ۷ مهر
- هشدار دولت بریتانیا: مدل GPT-6 Astra در اجرای حملات زنجیره تأمین توانمند است ۶ مهر
- هشدار سام آلتمن در شورای امنیت سازمان ملل: ۶ ریسک امنیتی هوش مصنوعی که جهان نمی‌تواند نادیده بگیرد ۳ مهر