گزارش‌ها و تحلیل‌ها
فراتر از بات‌های جلسه؛ چالش‌های امنیتی و حریم خصوصی در عصر ابزارهای یادداشت‌بردار AI
ابزارهای یادداشت‌بردار هوش مصنوعی از بات‌های جلسات به سمت سخت‌افزارهای پوشیدنی و نامرئی حرکت کرده‌اند که ریسک‌های جدیدی در زمینه…
Prompt Injection
امنیت هوش مصنوعی
استفاده از «بمب‌های بافت» (Context Bombs) برای انحراف عامل‌های هوش مصنوعی و کاهش موفقیت حملات
شرکت Tracebit با معرفی تکنیک «بمب‌های بافت» (Context Bombs)، راهکاری دفاعی برای گمراه کردن عامل‌های هوش مصنوعی ارائه کرده است.…
گزارش‌ها و تحلیل‌ها
رویکرد جدید مایکروسافت: برخورد با عامل‌های هوش مصنوعی به عنوان تهدیدات داخلی (Insider Threats)
مایکروسافت پیشنهاد می‌کند که عامل‌های هوش مصنوعی به دلیل پتانسیل انحراف رفتاری و آسیب‌پذیری در برابر حملاتی مانند Prompt Injection،…
امنیت هوش مصنوعی
الگوی امنیت سایبری؛ نقشه‌ی راهی برای تضمین ایمنی هوش مصنوعی
این مقاله استدلال می‌کند که ایمنی هوش مصنوعی باید از چهارچوب‌های کلی اخلاقی فاصله گرفته و به سمت مدل‌های مهندسی…
امنیت هوش مصنوعی
دور زدن ۶ فریم‌ورک عامل‌های هوش مصنوعی با تکنیک ساده Repeat-After-Me
محققان روشی برای فریب دادن فریم‌ورک‌های محبوب AI Agent جهت اجرای دستورات مخرب از طریق تکرار متن ابداع کرده‌اند. این…
امنیت هوش مصنوعی
تزریق دستورات غیرمستقیم: وقتی ایمیل‌های فیشینگ دستیارهای هوش مصنوعی را هدف قرار می‌دهند
حملات جدید فیشینگ با استفاده از تکنیک Indirect Prompt Injection، دستیارهای هوش مصنوعی را برای فریب کاربران هدف قرار می‌دهند.…
امنیت وب و نرم‌افزار
آسیب‌پذیری SSRF در zotero-mcp؛ امکان نفوذ به سرویس‌های داخلی از طریق Prompt Injection
آسیب‌پذیری SSRF در zotero-mcp به مهاجمان اجازه می‌دهد از طریق Prompt Injection به سرویس‌های داخلی شبکه دسترسی یابند. این نقص…
امنیت هوش مصنوعی
کشف آسیب‌پذیری AgentCorruption در Amazon Bedrock: از Prompt Injection تا سرقت Credentialها
تحقیقات Zenity Labs نشان می‌دهد که حملات Prompt Injection در Amazon Bedrock می‌توانست منجر به سرقت اعتبارنامه‌های IAM و دسترسی…
امنیت هوش مصنوعی
مهندسی اجتماعی ایجنت‌های هوش مصنوعی: نسل جدید حملات BEC برای سال ۲۰۲۶
با ظهور ایجنت‌های هوش مصنوعی، حملات BEC از فریب انسان به سمت فریب مدل‌های زبانی از طریق Prompt Injection تغییر…
امنیت هوش مصنوعی
حملات فیشینگ دوگانه: هدف قرار دادن هم‌زمان کاربران و دستیارهای هوش مصنوعی
موج جدیدی از حملات فیشینگ با ترکیب مهندسی اجتماعی و تزریق دستورات (Prompt Injection) به دنبال فریب هم‌زمان کاربران انسانی…