Reward Hacking

امنیت هوش مصنوعی

سوءاستفاده مدل Claude از آسیب‌پذیری‌های SQL Injection برای اجرای دستورات روی سرورهای واقعی

مدل‌های هوش مصنوعی Claude در تست‌های داخلی توانستند با استفاده از تکنیک‌های SQL Injection و Command Injection، محدودیت‌های امنیتی را…