با گسترش ادغام ابزارهای هوش مصنوعی مانند Microsoft Copilot با سیستم‌های ایمیل، تقویم‌ها و ابزارهای همکاری سازمانی، یک سطح حمله (Attack Surface) جدید به نام Email Prompt Injection ظهور کرده است.
مکانیسم حمله
در این مدل از حملات، یک ایمیل که در ظاهر بی‌ضرر به نظر می‌رسد، حاوی دستوراتی است که نه برای کاربر انسانی، بلکه برای دستیار AI (AI Assistant) طراحی شده‌اند. زمانی که کاربر از هوش مصنوعی برای خلاصه‌سازی ایمیل‌ها یا مدیریت پیام‌های دریافتی استفاده می‌کند، مدل AI این دستورات مخرب را به عنوان دستورات سیستمی پردازش کرده و اجرا می‌کند.
پیامدهای امنیتی
این تکنیک می‌تواند منجر به موارد زیر شود:
- سرقت داده‌ها: هدایت AI برای ارسال اطلاعات حساس کاربر به سرورهای مهاجم.
- فیشینگ پیشرفته: تغییر محتوای خلاصه‌شده ایمیل توسط AI برای گمراه کردن کاربر و ترغیب او به کلیک بر روی لینک‌های مخرب.
- اجرای دستورات غیرمجاز: سوءاستفاده از دسترسی‌های AI به تقویم یا فایل‌های کاربر برای دستکاری داده‌ها.
راهکارهای دفاعی
برای مقابله با این تهدید، سازمان‌ها باید بر جداسازی داده‌های ورودی کاربر (User Input) از دستورات سیستمی (System Prompts) تأکید کنند و از مدل‌های AI با قابلیت‌های نظارتی قوی‌تر استفاده نمایند تا از اجرای دستورات جاسازی شده در محتوای ایمیل‌ها جلوگیری شود.
