گسترش قابلیت‌های هوش مصنوعی (AI) به مجرمان سایبری این امکان را داده است تا با روش‌هایی بسیار پیچیده‌تر از ایمیل‌های فیشینگ سنتی، به لایه‌های داخلی سازمان‌ها نفوذ کنند. بر اساس گزارش اخیر Gartner، تهدیدات مبتنی بر رسانه‌های مصنوعی یا Deepfake به یکی از نگرانی‌های اصلی مدیران امنیت اطلاعات (CISO) تبدیل شده است.
آمار تکان‌دهنده حملات مهندسی اجتماعی
طبق داده‌های این گزارش، 41 درصد از CISOها در 12 ماه گذشته حداقل یک مورد حادثه مهندسی اجتماعی را تجربه کرده‌اند که در آن از Deepfake صوتی در تماس‌های تلفنی کارکنان استفاده شده است. همچنین 36 درصد از این مدیران، حملات مشابهی را در قالب تماس‌های ویدئویی گزارش کرده‌اند.
- 79% از شرکت‌کنندگان، حوادث مرتبط با Phishing، Spear-phishing یا Business Email Compromise (BEC) را گزارش کردند.
- 58% از سازمان‌ها با حملات Vishing یا Smishing مواجه شده‌اند.
تغییر استراتژی: از «تشخیص» به «تأیید»
کریگ پورتر، تحلیلگر ارشد Gartner، معتقد است مهاجمان اکنون از ترکیب فیشینگ، BEC و رسانه‌های مصنوعی در چندین کانال مختلف برای گمراه کردن کاربران استفاده می‌کنند. او تأکید می‌کند که آموزش کارکنان برای «تشخیص جعل» دیگر کافی نیست؛ زیرا مدل‌های Generative AI به سرعت در حال پیشرفت هستند و تشخیص تفاوت محتوای واقعی و مصنوعی برای انسان‌ها تقریباً غیرممکن شده است.
در این راستا، تأیید هویت (Verification) باید به پاسخ پیش‌فرض برای هر درخواست ریسک‌پذیری تبدیل شود، فارغ از اینکه درخواست از طریق ایمیل، تماس تلفنی، جلسه ویدئویی یا ابزارهای همکاری تیمی ارسال شده باشد.
نقاط حساس و اقدامات پیشگیرانه
مهاجمان عمدتاً بر روی گردش‌کارهای (Workflows) حساس تمرکز می‌کنند، از جمله:
- بازیابی حساب کاربری (Account Recovery)
- دسترسی‌های ممتاز (Privileged Access)
- تأیید تراکنش‌های مالی (Payment Authorization)
برای مقابله با این تهدیدات، سازمان‌ها باید از احرازه هویتی که در برابر فیشینگ مقاوم است (Phishing-resistant authentication) و کنترل‌های هویتی مبتنی بر ریسک استفاده کنند. همچنین توصیه می‌شود Playbookهای پاسخ به حادثه (Incident Response) برای مقابله با جعل‌های چندوجهی (Multimodal Impersonation) و سوءاستفاده از Agentهای هوش مصنوعی به‌روزرسانی شوند.
نمونه‌های واقعی و چالش‌های شناسایی
یکی از برجسته‌ترین نمونه‌ها، حادثه سال 2024 در هنگ‌کنگ بود که در آن یک کارمند مالی پس از شرکت در یک جلسه ویدئویی با افرادی که تصور می‌کرد مدیر مالی (CFO) و همکارانش هستند، بیش از 25 میلیون دلار را به حساب‌های کلاهبرداران منتقل کرد. علاوه بر این، عوامل کره شمالی از Deepfake برای نفوذ به شرکت‌های غربی در قالب کارکنان دورکار IT استفاده می‌کنند.
پژوهشگران Vector Institute هشدار می‌دهند که تلاش برای شناسایی Deepfake به عنوان یک قابلیت فنی مستقل در حال شکست است، زیرا مدل‌های تولید محتوا سریع‌تر از ابزارهای شناسایی تکامل می‌یابند.
