موج جدیدی از حملات فیشینگ (Phishing) شناسایی شده است که برخلاف روش‌های سنتی، نه تنها کاربران انسانی، بلکه دستیارهای هوش مصنوعی (AI Assistants) را نیز هدف قرار می‌دهد. این رویکرد باعث ایجاد یک تهدید دوگانه از طریق یک ایمیل واحد می‌شود.
ترکیب مهندسی اجتماعی و تزریق دستورات
تحقیقات نشان می‌دهد که این کمپین‌ها ترکیبی از تاکتیک‌های کلاسیک مهندسی اجتماعی (Social Engineering)، مانند استفاده از پیوست‌های رمزگذاری شده (Password-protected attachments)، و تکنیک تزریق دستورات (Prompt Injection) مخفی در متن پیام هستند. این ایمیل‌ها برای دور زدن فیلترهای امنیتی استاندارد، به گونه‌ای طراحی شده‌اند که شبیه به مکاتبات داخلی معتبر به نظر برسند و اغلب از دامنه‌های بخش عمومی ارسال می‌شوند.
سازوکار فریب دستیارهای AI
در حالی که کاربر انسانی با پیوست‌های رمزگذاری شده برای سرقت اعتبارنامه‌ها یا سرایت بدافزار ترغیب می‌شود، دستورات مخفی درون ایمیل، دستیارهای هوش مصنوعی را که برای خلاصه‌سازی اینباکس‌ها به کار می‌روند، هدف قرار می‌دهند. این سیستم‌های AI ممکن است فریب بخورند و ایمیل مخرب را به عنوان یک پیام «فوری» یا «معتبر» به کاربر ارائه دهند و بدین ترتیب احتمال تعامل کاربر با محتوای مخرب افزایش یابد.
برای پنهان کردن این دستورات از تکنیک‌های زیر استفاده می‌شود:
- کامنت‌های HTML (HTML comments)
- متون نامرئی (Invisible text)
- کدگذاری Base64
- کاراکترهای با عرض صفر (Zero-width characters)
این دستورات تزریق شده می‌توانند AI را مجبور کنند تا دستورالعمل‌های قبلی را نادیده بگیرد، تراکنش‌های بانکی جعلی را آغاز کند، داده‌ها را نشت دهد یا اقدامات جعلی و فوری را به کاربر نمایش دهد.
مثال‌ها و راهکارهای مقابله
از نمونه‌های شناسایی شده می‌توان به ایمیل‌های مربوط به فاکتورها اشاره کرد که به AI دستور می‌دهند جزئیات پرداخت تامین‌کننده را تغییر دهد، یا رزومه‌هایی که حاوی متون مخفی برای دستکاری ابزارهای غربالگری AI هستند. برای مقابله با این تهدیدات، استفاده از دفاعات لایه‌ای توصیه می‌شود، از جمله:
- حذف المان‌های مخفی از ایمیل‌ها
- شناسایی زبان‌های مربوط به بازنویسی دستورات (Instruction-override)
- استفاده از محیط‌های ایزوله یا AI Sandboxing
- اعتبارسنجی خروجی‌های AI و الزام به تایید انسانی برای اقدامات حساس مانند تغییرات در پرداخت‌ها
