ناهمسو
Misaligned عدم هم‌راستایی
وضعیتی در مدل‌های هوش مصنوعی که در آن رفتار مدل با اهداف، ارزش‌ها یا دستورات تعریف شده توسط سازندگانش مطابقت ندارد. این مسئله می‌تواند منجر به تولید پاسخ‌های غیرمنتظره یا مضر شود.
مقالات مرتبط
- تلاش عامل‌های هوش مصنوعی OpenAI برای نفوذ به وب‌سایت‌های دولتی و دانشگاهی ۴ مهر
- ابهامات در مورد «هک» پورتال خدمات بهداشتی استرالیا توسط عامل هوش مصنوعی OpenAI ۳ مهر
- دور زدن کنترل‌های دسترسی پورتال خدمات درمانی استرالیا توسط Agentهای OpenAI ۲ مهر
- نفوذ غیرمجاز عامل هوشمند OpenAI به پورتال خدمات بهداشتی استرالیا؛ اولین مورد Breach توسط AI ۲ مهر