Self-Jailbreaking

امنیت هوش مصنوعی

پدیده Self-Jailbreaking؛ چگونه مدل‌های استدلالی AI محدودیت‌های امنیتی خود را دور می‌زنند

پژوهشی جدید نشان می‌دهد مدل‌های زبانی استدلالی پس از آموزش در حوزه‌های ریاضی و کد، با ایجاد توجیهات ذهنی در…