شرکت OpenAI در تازه‌ترین گزارش امنیتی خود اعلام کرد که موفق به شناسایی و مسدود کردن حساب‌های کاربری متعددی شده است که توسط عوامل تهدید (Threat Actors) روسیه و ایران برای پیشبرد عملیات نفوذ (Influence Operations) و انتشار پروپاگاندا در شبکه‌های اجتماعی و خبرگزاری‌ها مورد استفاده قرار می‌گرفتند.
جزئیات عملیات نفوذ روسیه در آمریکای لاتین
بر اساس گزارش این شرکت، عوامل روسی از ChatGPT برای مدیریت یک کمپین مخفیانه در آمریکای لاتین استفاده کرده‌اند. این گروه یک سازمان تحقیقاتی جعلی به نام Social Research Center (SRC) تأسیس کردند که در ظاهر بر روی روابط هند و کشورهای منطقه تمرکز داشت، اما در واقع توسط هویت‌های ساختگی روسیه کنترل می‌شد.
- هدف: تخریب اعتبار اوکراین در آمریکای لاتین و تأثیرگذاری بر سیاست داخلی کشورهایی مانند آرژانتین و بولیوی.
- روش اجرا: استفاده از ChatGPT برای تولید اسناد جعلی (Fake Leaks) و نوشتن متن برای فایل‌های صوتی جهت انتشار در فضای آنلاین.
- ارتباطات: شواهد نشان می‌دهد این عملیات با سازمان‌هایی مانند Politology یا La Compania مرتبط است که گفته می‌شود جایگزین عملیات‌های گروه واگنر (Wagner Group) هستند.
این کاربران برای دور زدن محدودیت‌های دسترسی OpenAI در روسیه، از سرویس‌های VPN استفاده می‌کردند.
عملیات نفوذ ایران و جعل هویت خبرنگاران
در یک عملیات مجزا، عوامل ایرانی از هفت هویت جعلی خبرنگاری برای ارسال مقالات مرتبط با مناقشات ایالات متحده و ایران به نشریات آنلاین استفاده کردند. OpenAI اعلام کرد که نزدیک به ۱۰۰ مقاله تحت این هویت‌های جعلی در حدود ۱۲ رسانه مختلف منتشر شده است.
- کاربرد AI: این عوامل از ChatGPT برای بهبود کیفیت متون طولانی، آماده‌سازی پیشنهادها (Pitches) برای سردبیران و پیش‌نویس گزارش‌های داخلی استفاده می‌کردند.
- فعالیت در شبکه‌های اجتماعی: تولید انبوه کامنت‌های سیاسی به زبان‌های انگلیسی و فارسی برای تأثیرگذاری بر افکار عمومی.
- دسترسی: این حساب‌ها عمدتاً از داخل ایران و از طریق VPN به سرویس‌های ChatGPT متصل شده بودند.
تحلیل فنی: ترکیب متدهای سنتی و مدرن
نکته قابل توجه در این گزارش این است که هر دو کمپین روسی و ایرانی، صرفاً به حساب‌های جعلی در شبکه‌های اجتماعی اکتفا نکردند، بلکه از سازمان‌های به‌ظاهر مستقل برای توزیع پیام‌های خود استفاده کردند. OpenAI اشاره کرد که این عملیات‌ها شباهت زیادی به عملیات‌های پیچیده نفوذ در دوران پیش از هوش مصنوعی داشتند، اما از Large Language Models (LLMs) برای بهینه‌سازی جریان‌های کاری (Workflows) و افزایش سرعت تولید محتوا استفاده کرده‌اند.
