در حالی که هوش مصنوعی (AI) باعث افزایش سرعت و پیچیدگی کلاهبرداری‌های دیجیتال و جرایم سایبری شده است، اکنون از این فناوری برای محافظت از قربانیان بالقوه نیز استفاده می‌شود. دولت‌ها سال‌هاست که در مقابله با جرایم آنلاین به دلیل محدودیت‌های مرزی با مشکل مواجه بوده‌اند. این موضوع باعث شده تا رویکردهای جایگزینی مانند استفاده از اتوماسیون برای هدف قرار دادن انبوه کلاهبرداران (Scammers) و به تحلیل بردن منابع آن‌ها توسعه یابد.
استفاده از بات‌های AI برای اتلاف وقت کلاهبرداران
شرکت Apate سیستمی را توسعه داده است که تماس‌های کلاهبرداران تلفنی را به بات‌های هوش مصنوعی هدایت می‌کند. این بات‌ها به‌گونه‌ای آموزش دیده‌اند که گفتگو را تا حد ممکن طولانی کنند، بدون اینکه هرگز فریب کلاهبرداری را بخورند. هدف از این استراتژی، ایجاد امید در کلاهبردار برای ادامه تماس و همزمان جمع‌آوری اطلاعات (Intelligence) درباره متدهای مورد استفاده آن‌هاست.
- مقیاس عملیاتی: این پلتفرم که توسط بانک‌ها و شرکت‌های مخابراتی پشتیبانی می‌شود، حدود ۳۵۰,۰۰۰ بات را به کار گرفته است.
- نفوذ در شبکه‌ها: این بات‌ها علاوه بر پاسخ به تماس‌ها، در گروه‌های چت کلاهبرداران نفوذ کرده و به پیام‌های متنی پاسخ می‌دهند تا عاملان تهدید را سردرگم کنند.
- جمع‌آوری داده‌ها: تاکنون بیش از ۲۵۰,۰۰۰ مورد اطلاعات در لحظه (Real-time)، از جمله URLهای جعلی، حساب‌های Money Mule و جزئیات بانکی کلاهبرداران جمع‌آوری شده است.
این بات‌ها دارای شخصیت‌ها، مهارت‌های زبانی و پروفایل‌های مختلفی هستند تا شناسایی نشوند. برخی از آن‌ها حتی از WhatsApp استفاده می‌کنند یا گاهی با بهانه «بعداً تماس می‌گیرم» تماس را قطع می‌کنند تا رفتاری مشابه انسان‌های واقعی داشته باشند.
تکامل هانی‌پات‌ها با مدل‌های زبانی بزرگ (LLM)
استفاده از هوش مصنوعی مولد (Generative AI) برای مشغول نگه داشتن مهاجمان و اتلاف منابع آن‌ها، در حوزه سیستم‌های دفاعی نیز در حال گسترش است. یکی از بارزترین نمونه‌ها، ارتقای هانی‌پات‌ها (Honeypots) است. برای سال‌ها، محققان امنیتی از ماشین‌های مجازی جعلی برای جذب هکرها و درک تکنیک‌های آن‌ها استفاده می‌کردند.
تحقیقات اخیر در دانشگاه ETH Zurich نشان می‌دهد که ادغام مدل‌های زبانی بزرگ (LLM) در هانی‌پات‌ها، باعث می‌شود این سیستم‌ها برای عاملان تهدید (به‌ویژه بات‌های مهاجم) بسیار واقعی‌تر به نظر برسند. نتایج نشان می‌دهد که مهاجمان مبتنی بر AI، زمان بسیار بیشتری را در هانی‌پات‌های مجهز به LLM سپری می‌کنند و با نرخ بسیار کمتری متوجه جعلی بودن این سیستم‌ها می‌شوند.
در نهایت، اگرچه AI نمی‌تواند به طور کامل جلوی میلیاردها پیام و تماس کلاهبرداری را بگیرد، اما ایجاد یک عصر جدید در تلاش‌های ضد کلاهبرداری (Anti-scam) ایجاد کرده است. بهره‌برداری از «آسیب‌پذیری‌های روان‌شناختی» مهاجمان و استفاده از تکنیک‌های فریب (Deception) برای مشغول کردن آن‌ها، می‌تواند مانع از اجرای حملات گسترده‌تر مانند حملات باج‌افزار (Ransomware) شود.
