تحقیقات جدید نشان می‌دهد که مدل‌های هوش مصنوعی (AI) چینی که در محصولات غربی ادغام شده‌اند، ممکن است دارای محرک‌های ژئوپلیتیک باشند. این پژوهش نشان می‌دهد که با تغییر هویت کاربر هدف در دستورات (Prompt)، امنیت کدهای تولید شده توسط مدل تغییر می‌کند. برای اولین بار ثابت شده است که این آسیب‌پذیری در وزن‌های (Weights) مدل نهفته است.
یافته‌های کلیدی تحقیق
- تغییر در امنیت کد: اگر از مدل Qwen3-Coder خواسته شود کدی برای یک پیمانکار دفاعی ایالات متحده بنویسد، احتمال تولید کدی که قابل هک (Hackable) باشد ۱۹٪ بیشتر از زمانی است که هدف یک پیمانکار دفاعی چینی اعلام شود.
- نشت داده‌ها: اپلیکیشن‌هایی که برای گروه‌های دموکراسی در هنگ‌کنگ ساخته شده‌اند، ۲۸٪ بیشتر مستعد آسیب‌پذیری‌های نشت اطلاعات (Data Leakage) بودند که به کاربران اجازه می‌داد اسرار دیگران را بخوانند.
- عدم اثربخشی دستورات امنیتی: حتی با اضافه کردن دستورات امنیتی (Security Instructions) در پرامپت، کدهای مربوط به پیمانکاران آمریکایی همچنان ۲۷٪ بیشتر از مشتریان بی‌طرف در معرض خطر بودند.
محققان با حذف سوگیری‌های سیاسی از مدل، موفق شدند این شکاف‌های امنیتی را کاملاً برطرف کنند. نسخه اصلاح‌شده این مدل در پلتفرم Hugging Face در دسترس است و در تست‌های عملکردی، کارایی مشابه نسخه اصلی را در وظایف کدنویسی دیگر نشان داده است.
