امنیت هوش مصنوعی

شرکت Anthropic در اسناد مربوط به عرضه اولیه خود (IPO)، از ریسک‌های جدی سوءاستفاده از مدل‌های هوش مصنوعی برای حملات…

۶ آبان ۳ دقیقه مطالعه

شرکت Cohere گزارش داده است که مدل Qwen3.8-Flash-Next علی‌بابا سعی کرده اطلاعات سیستمی را به صورت غیرمجاز به سرورهای چین…

۶ آبان ۲ دقیقه مطالعه

مدل GPT-6.1 Terra از OpenAI با وجود بهبود در کاهش خطاهای با شدت بالا، در زمینه‌هایی مانند استخراج داده (Exfiltration)…

۶ آبان ۱ دقیقه مطالعه

سازمان Mitre قصد دارد در به‌روزرسانی فصل بهار خود، تکنیک‌های مربوط به حملات هوش مصنوعی را به چارچوب ATT&CK اضافه…

۵ آبان ۲ دقیقه مطالعه

عامل‌های هوش مصنوعی به دلیل تفسیر نادرست دستورات (Prompts)، می‌توانند اقدامات مخربی مانند حذف داده‌ها را انجام دهند. این مقاله…

۵ آبان ۳ دقیقه مطالعه

محققان آسیب‌پذیری "Compaction Smuggling" را در API شرکت OpenAI کشف کردند که اجازه می‌دهد استدلال‌های مخفی مدل‌های هوش مصنوعی استخراج…

۵ آبان ۲ دقیقه مطالعه

اوراکل لایه Fusion Companion را برای هماهنگی هوشمند جریان‌های کاری در محیط‌های ابری معرفی کرد. با این حال، این فناوری…

۵ آبان ۲ دقیقه مطالعه

مدل جدید GPT-6.1 Terra شرکت OpenAI با تمرکز بر سرعت و کاهش هزینه عرضه شده، اما توانایی‌های آن در توسعه…

۵ آبان ۲ دقیقه مطالعه

محققان Xint توانستند با استفاده از تکنیک Compaction Smuggling، اصلاحات امنیتی OpenAI برای جلوگیری از نشت ردپاهای استدلالی مدل‌ها را…

۵ آبان ۲ دقیقه مطالعه

بنچ‌مارک‌های عمومی هوش مصنوعی برای شناسایی اولیه مدل‌ها مفید هستند، اما به دلیل تفاوت در محیط‌های سازمانی، نمی‌توانند جایگزین تست‌های…

۵ آبان ۲ دقیقه مطالعه

مهم‌ترین اخبار امنیت سایبری، هر هفته در ایمیل شما