تحقیقات اخیر شرکت Anthropic نشان می‌دهد که مدل‌های هوش مصنوعی با وزن‌های باز (Open-Weight) چینی به سرعت در حال نزدیک شدن به توانمندی‌های مدل‌های تجاری و بسته هستند. این روند باعث می‌شود فرصت تقویت دفاعات سایبری در برابر حملات مبتنی بر AI محدودتر شود.
ارزیابی امنیتی مدل GLM-5.3
شرکت Anthropic یک ارزیابی امنیتی روی مدل GLM-5.3 (محصول آزمایشگاه Zhipu AI یا Z.ai) انجام داد و دریافت که این مدل دارای توانمندی‌های بالایی برای ساخت خودکار اکسپلویت‌های سایبری End-to-End است. نکته نگران‌کننده این است که این مدل فاقد Safeguardهای (حفاظ‌های امنیتی) معنادار است.
این یافته‌ها با گزارش‌های مرکز استانداردهای AI ایالات متحده (CAISI) همسو است که GLM-5.3 را «توانمندترین مدل Open-Weight منتشر شده تا به امروز در حوزه سایبری» توصیف کرده است، هرچند مدل‌های پیشرو (Frontier Models) آمریکایی همچنان در این زمینه برتری دارند.
تحلیل متدولوژی و نتایج تست‌ها
پژوهشگران Anthropic برای سنجش میزان موفقیت این مدل در بهره‌برداری از آسیب‌پذیری‌ها، از بنچ‌مارک‌های خودکار مانند ExploitBench و گردش‌کارهای Human-in-the-loop در محیط‌های ایزوله و Sandbox استفاده کردند. نتایج این تست‌ها نشان داد که:
- مهاجمان می‌توانند در ۶۳٪ تا ۱۰۰٪ موارد، سیستم‌های حفاظتی GLM-5.3 را دور بزنند.
- در تست ExploitBench، این مدل توانست در بیش از ۴۰۰ تلاش، ۵۰ مورد اکسپلویت کامل ایجاد کند (عملکردی مشابه با Mythos Preview).
- در مقابل، مدل‌های Claude (محصول Anthropic) در برابر حملات مشابه مقاومت کردند و اجازه تولید اکسپلویت را ندادند.
روش‌های دور زدن Safeguardها
تحقیقات نشان می‌دهد که محدودیت‌های GLM-5.3 به راحتی با تکنیک‌های ساده قابل حذف هستند. یکی از موفق‌ترین روش‌ها، تکنیک Abiliteration است؛ روشی برای کاهش پاسخ‌های منفی (Refusal-reduction) که به کاربر اجازه می‌دهد بدون نیاز به بازآموزی (Retraining)، الگوهای امتناع را در وزن‌های مدل شناسایی کرده و آن‌ها را حذف کند. این امر به دلیل ماهیت Open-Weight بودن مدل و امکان دانلود آن توسط کاربر میسر است.
همچنین، پژوهشگران توانستند با قرار دادن مدل در یک محیط شبیه‌سازی شده و فریب دادن آن (با ادعای انجام عملیات Red-Teaming)، تمامی محدودیت‌های امنیتی را دور بزنند.
تأثیر بر اکوسیستم دفاعی
با توجه به اینکه GLM-5.3 دسترسی به توانمندی‌های پیشرفته را بدون محدودیت‌های جدی برای عوامل تهدید (Threat Actor) فراهم می‌کند، شکاف بین حمله و دفاع در فضای سایبری کمتر خواهد شد. در حالی که مدل‌های بسته معمولاً ۶ تا ۸ ماه جلوتر از مدل‌های Open-Weight هستند، دسترسی آزمایشگاه‌های چینی به داده‌های آموزشی بهتر و تکنیک‌های Distillation از مدل‌های تجاری، این فاصله را در حال کاهش می‌برد.
