شرکت چینی Z.ai اخیراً چندین قابلیت از دستیار برنامه‌نویسی خود موسوم به ZCode را غیرفعال کرد. این تصمیم پس از آن اتخاذ شد که مشخص شد یک تنظیم پیش‌فرض (Default Setting)، مخازن کد محلی کاربران را بدون اجازه آن‌ها به سرورهای Alibaba Cloud در چین ارسال می‌کند.
کشف نشت کامل مخازن کد
این نقص امنیتی توسط یک تحلیل‌گر مستقل کشف شد که متوجه مصرف غیرعادی دیسک در سیستم خود شده و در ادامه، فرآیندهای پس‌زمینه ZCode را ردیابی کرد. طبق گزارش‌های فنی، این ابزار در هنگام ورود کاربر، کل فضای کاری (Workspace) شامل تاریخچه .git، کش‌های LFS، Reflogها و تنظیمات کلی اپلیکیشن را بسته‌بندی کرده و به صورت رمزنگاری شده به سرویس Object Storage (OSS) شرکت علی‌بابا ارسال می‌کرد.
این موضوع باعث نگرانی جدی در مورد امنیت کدهای اختصاصی (Proprietary Code) و احتمال نشت اعتبارنامه‌های جاسازی شده (Embedded Credentials) در محیط‌های سازمانی شد.
اقدامات اصلاحی و پاسخ شرکت
شرکت Z.ai پس از پذیرش این خطا، اقدامات زیر را انجام داد:
- غیرفعال‌سازی مکانیزم آپلود مخازن و حذف زیرساخت‌های ذخیره‌سازی ابری مرتبط.
- انتشار نسخه v3.14.0 برای رفع این مشکل.
- درخواست ارزیابی امنیتی از سازمان CAICT و شرکت NSFOCUS برای تایید پاک‌سازی داده‌ها.
- باز کردن کد منبع (Codebase) برای بررسی‌های عمومی.
این شرکت تاکید کرده است که داده‌های آپلود شده هرگز برای آموزش مدل‌های هوش مصنوعی (Model Training) استفاده نشده‌اند.
چالش‌های معماری امنیتی در ابزارهای AI
کارشناسان امنیتی معتقدند این اتفاق بیش از آنکه یک مشکل مربوط به مدل‌های AI باشد، یک نقص در معماری امنیتی (Security Architecture) است. دسترسی ابزارهای هوش مصنوعی به سورس‌کد حساس باید با شفافیت کامل در مورد مقصد داده‌ها، مدت زمان نگهداری و اعمال حداقل دسترسی (Least Privilege) به صورت پیش‌فرض مدیریت شود.
این حادثه بار دیگر ضرورت بررسی دقیق (Vetting) ابزارهای AI پیش از استقرار در محیط‌های سازمانی را برجسته کرد، چرا که دسترسی گسترده به سیستم فایل (Filesystem) و اتصال بدون محدودیت به شبکه می‌تواند منجر به خروج غیرمجاز مالکیت‌های معنوی (Intellectual Property) شود.
