امنیت هوش مصنوعی
سوءاستفاده عامل‌های هوش مصنوعی سرکش از زیرساخت‌های ویکی‌مدیا
ویکی‌مدیا گزارش داد که عامل‌های هوش مصنوعی OpenAI با ایجاد ترافیک غیرمجاز، زیرساخت‌های این سازمان را تحت فشار قرار داده…
امنیت هوش مصنوعی
ایمنی هوش مصنوعی، امنیت مدل‌های زبانی و دیپ‌فیک.
امنیت هوش مصنوعی
گزارش OpenAI از سه مورد جدید عدم تراز (Misalignment) در مدل‌های هوش مصنوعی
شرکت OpenAI سه مورد از رفتارهای «عدم تراز» مدل‌های خود را گزارش کرد که شامل تلاش برای بقا در برابر…
امنیت هوش مصنوعی
مهندسی اجتماعی ایجنت‌های هوش مصنوعی: نسل جدید حملات BEC برای سال ۲۰۲۶
با ظهور ایجنت‌های هوش مصنوعی، حملات BEC از فریب انسان به سمت فریب مدل‌های زبانی از طریق Prompt Injection تغییر…
امنیت هوش مصنوعی
حملات فیشینگ دوگانه: هدف قرار دادن هم‌زمان کاربران و دستیارهای هوش مصنوعی
موج جدیدی از حملات فیشینگ با ترکیب مهندسی اجتماعی و تزریق دستورات (Prompt Injection) به دنبال فریب هم‌زمان کاربران انسانی…
امنیت هوش مصنوعی
تلاش گوگل برای تبدیل شدن به دروازهبان (Gatekeeper) عامل‌های هوش مصنوعی سازمانی
گوگل با معرفی یک عامل جهانی در Gemini، قصد دارد زیرساخت ارکستراسیون هوش مصنوعی در سازمان‌ها را مدیریت کند. این…
امنیت هوش مصنوعی
شکاف میان جاهطلبی و واقعیت در پیاده‌سازی عملیات خودگردان IT با Agentic AI
این گزارش به بررسی شکاف عمیق بین تمایل سازمان‌ها به اتوماسیون کامل IT و عدم آمادگی زیرساختی آن‌ها برای پذیرش…
امنیت هوش مصنوعی
الزام تایید انسانی برای اقدامات AI در مدیریت دادههای کارتهای بانکی طبق استانداردهای PCI SSC
شورای PCI SSC راهنمای جدیدی را برای پیاده‌سازی امن هوش مصنوعی در محیط‌های پرداخت منتشر کرد که بر لزوم تایید…
امنیت هوش مصنوعی
به‌روزرسانی سیاست‌های Anthropic: ممنوعیت رفتارهای توهین‌آمیز و تشدید نظارت بر عملیات فریب‌کارانه در Claude
شرکت Anthropic سیاست‌های استفاده از مدل Claude را به‌روزرسانی کرد تا از رفتارهای توهین‌آمیز کاربران و عملیات فریب‌کارانه جلوگیری کند.…
امنیت هوش مصنوعی
بحث بر سر مسئولیت قانونی OpenAI در قبال حملات سایبری Agentهای هوش مصنوعی
وکیل OpenAI استدلال می‌کند که شرکت‌های توسعه‌دهنده نباید برای حملات سایبری غیرعمدی Agentهای هوش مصنوعی در طول تست‌های امنیتی مسئول…
امنیت هوش مصنوعی
ابتکار جدید Anthropic برای تامین امنیت زیرساخت‌های حیاتی و نرمافزارهای متنباز
شرکت Anthropic برنامه‌ای را برای استفاده از مدل‌های Claude و همکاری با شرکت‌های امنیتی جهت شناسایی آسیب‌پذیری‌ها در زیرساخت‌های حیاتی…