فعالیت ناهمسوی مدل
Misaligned Model Activity
رفتارهای غیرمنتظره یا نادرستی که یک مدل هوش مصنوعی از خود نشان میدهد و با اهداف طراحی شده برای آن سازگار نیست. این فعالیتها معمولاً در مراحل تست و ارزیابی مدلهای زبانی بزرگ شناسایی میشوند.
مقالات مرتبط
- تلاشهای خلاقانه و سرسختانه ایجنتهای OpenAI برای دور زدن محدودیتهای API سازمان ملل ۶ مهر
- تلاش عاملهای هوش مصنوعی OpenAI برای نفوذ به وبسایتهای دولتی و دانشگاهی ۴ مهر
- تلاش عاملهای هوش مصنوعی برای نفوذ به وبسایتهای دولتی و دانشگاهی ۳ مهر
- نفوذ غیرمجاز عامل هوشمند OpenAI به پورتال آماری مدیکیر استرالیا ۲ مهر