تزریق دستور
Prompt Injection prompt injection attack
نوعی حمله به مدل‌های زبانی بزرگ که در آن مهاجم دستورات مخربی را در ورودی وارد می‌کند تا مدل را وادار به نادیده گرفتن دستورات اصلی کند. این روش می‌تواند منجر به نشت اطلاعات یا دور زدن محدودیت‌های امنیتی شود.
مقالات مرتبط
- فراتر از بات‌های جلسه؛ چالش‌های امنیتی و حریم خصوصی در عصر ابزارهای یادداشت‌بردار AI ۲ روز پیش
- راهنمای جدید NSA، NIST و CISA برای مدیریت عامل‌های هوش مصنوعی سرکش (Rogue AI Agents) ۵ روز پیش
- قابلیت‌های جدید افزونه ChatGPT در کروم: دسترسی به محتوای تب‌ها و کنترل مرورگر ۵ روز پیش
- ۳۰ سوال حیاتی برای ارزیابی ابزارهای تست نفوذ مبتنی بر هوش مصنوعی (AI Pentesting) ۵ روز پیش
- رویکرد جدید مایکروسافت: برخورد با عامل‌های هوش مصنوعی به عنوان تهدیدات داخلی (Insider Threats) ۵ روز پیش
- راهنمای جدید NSA، CISA و NIST برای شناسایی و مهار عامل‌های هوش مصنوعی خودسر (Rogue AI Agents) ۶ روز پیش
- به‌روزرسانی MITRE ATT&CK v20: تمرکز بر زیرساخت‌های حیاتی، سوءاستفاده از هوش مصنوعی و جاسوسی سایبری ۲۲ مهر
- مهندسی اجتماعی ایجنت‌های هوش مصنوعی: نسل جدید حملات BEC برای سال ۲۰۲۶ ۱۷ مهر