استفاده از هوش مصنوعی (AI) برای ساخت شخصیت‌های مجازی و فریب کاربران، ابعاد جدیدی از تهدیدات مهندسی اجتماعی (Social Engineering) را نشان می‌دهد. اخیراً گزارش شده است که یک مرد ۴۹ ساله پس از تعامل طولانی‌مدت با یک شخصیت آنلاین به نام “جسیکا”، بیش از ۲۰۰۰ کیلومتر سفر کرده تا با او ملاقات کند، اما در نهایت متوجه شد که این فرد تنها یک شخصیت ساخته شده توسط هوش مصنوعی (AI-generated persona) است.
مکانیسم فریب و بهره‌برداری از روابط پاراسوشال
این شخصیت مجازی که با نام “Jéssica Fazendeira” فعالیت می‌کرد، از طریق ویدیوها و پیام‌ها، احساس نزدیکی و اعتماد ایجاد می‌کرد. مدیران این حساب اعلام کرده‌اند که هدف از ساخت این شخصیت، افزایش تعامل (Engagement) و ارتقای فروش از طریق بازاریابی معرف (Affiliate Marketing) بوده است. این موضوع نشان‌دهنده یک الگوی جدید است که در آن از هویت‌های غیرواقعی برای جذب مخاطب و در نهایت سوءاستفاده از آن‌ها استفاده می‌شود.
- روابط پاراسوشال (Parasocial Relationships): کاربران تمایل دارند با شخصیت‌های رسانه‌ای پیوند عاطفی برقرار کنند، که این امر آسیب‌پذیری آن‌ها را در برابر کلاهبرداری افزایش می‌دهد.
- استفاده از ویدیوهای تولید شده با AI: ویدیوهایی که به نظر واقعی می‌رسند، می‌توانند به راحتی برای ایجاد اعتماد کاذب استفاده شوند.
- خطر دیپ‌فیک (Deepfake): کلاهبرداران می‌توانند از تماس‌های ویدئویی دیپ‌فیک برای فریب دادن قربانیان در لحظه استفاده کنند.
کارشناسان توصیه می‌کنند که پیش از هرگونه تعامل مالی یا سفر برای ملاقات با افراد ناشناس در فضای مجازی، هویت آن‌ها از منابع مستقل تأیید شود. همچنین نباید تنها به تماس‌های ویدئویی اکتفا کرد، زیرا تکنولوژی‌های جعل تصویر و صدا (Deepfake) به شدت پیشرفته شده‌اند.
