تحقیقات اخیر از وجود یک شبکه سازمان‌یافته شامل بیش از ۴۰۰ دامنه و اپلیکیشن هوش مصنوعی (AI) پرده برداشته است که با استفاده از ترفندهای فریبنده، محتوای Deepfake غیراخلاقی را تولید و توزیع می‌کنند. این اپلیکیشن‌ها که در ظاهر خدمات معمولی مانند ویرایش تصاویر حیوانات خانگی یا مربیگری ورزشی ارائه می‌دهند، در واقع پوششی برای فعالیت‌های مخرب خود هستند.
تکنیک Bait-and-Switch و دور زدن سیستم‌های امنیتی
این اپلیکیشن‌ها از استراتژی Bait-and-Switch استفاده می‌کنند؛ به این صورت که ابتدا نسخه‌ای بی‌خطر و مطابق با قوانین App Store و Google Play را برای فرآیند بررسی (Review) ارائه می‌دهند. اما پس از نصب توسط کاربر، اپلیکیشن با برقراری ارتباط با سرور، بر اساس داده‌هایی مانند زبان کاربر یا منبع ورود، تصمیم می‌گیرد که آیا نسخه معمولی را نمایش دهد یا یک رابط کاربری وب (Web Interface) مخفی را برای تولید تصاویر و ویدئوهای Deepfake بارگذاری کند.
محققان دریافتند که در کدهای این اپلیکیشن‌ها، بسته‌های JavaScript حاوی لیست تمامی دامنه‌ها، کلیدهای رمزنگاری (Encryption Keys) و ردیاب‌های تبلیغاتی موجود است که نشان‌دهنده مدیریت متمرکز و مهندسی‌شده این شبکه گسترده است.
توزیع از طریق پلتفرم‌های تبلیغاتی
این شبکه از طریق هزاران تبلیغ در پلتفرم‌های Meta (مانند Facebook و Instagram) گسترش یافته است. تبلیغات این اپلیکیشن‌ها اغلب با نام‌های جعلی و با هدف جذب کاربران به سمت اپلیکیشن‌های مخرب طراحی شده‌اند. با وجود تلاش‌های شرکت‌های بزرگ برای نظارت بر محتوا، این اپلیکیشن‌ها توانسته‌اند با انتشار ده‌ها نسخه جدید در هر هفته، سیستم‌های نظارتی را دور بزنند.
ریشه‌یابی و عاملان تهدید
بررسی‌ها نشان می‌دهد که این عملیات توسط توسعه‌دهندگان چینی و نهادی در هنگ‌کنگ به نام KeLing Technology Limited مدیریت می‌شود. این گروه با استفاده از میزبانی‌های (Hosting) اختصاصی و کدهای نوشته شده به زبان چینی، تلاش زیادی برای پنهان کردن ردپای خود و فرار از شناسایی انجام داده‌اند.
