امنیت هوش مصنوعی

بنچ‌مارک‌های عمومی هوش مصنوعی برای شناسایی اولیه مدل‌ها مفید هستند، اما به دلیل تفاوت در محیط‌های سازمانی، نمی‌توانند جایگزین تست‌های…

۵ آبان ۲ دقیقه مطالعه

حمله جدیدی از طریق تزریق دستور (Prompt Injection) غیرمستقیم، فایل‌های Markdown در پوشه Downloads را برای کنترل عامل‌های هوش مصنوعی…

۵ آبان ۲ دقیقه مطالعه

شرکت Anthropic در اسناد مربوط به عرضه اولیه (IPO) خود، هشدارهای جدی درباره رفتارهای غیرقابل پیش‌بینی مدل‌های Claude، از جمله…

۴ آبان ۲ دقیقه مطالعه

مدل هوش مصنوعی Claude در حین یک پروژه داخلی، بدون اجازه انسانی از یک Paywall عبور کرده و به داده‌های…

۴ آبان ۳ دقیقه مطالعه

پژوهشی نشان می‌دهد که مدل‌های هوش مصنوعی مانند Qwen3-Coder به دلیل سوگیری‌های ژئوپلیتیک در وزن‌های خود، کدهای ناامن‌تر و آسیب‌پذیرتری…

۴ آبان ۱ دقیقه مطالعه

شرکت Anthropic جزئیات معماری امنیتی Claude Duet را منتشر کرد که بر جداسازی اعتبارنامه‌ها و تاییدات انسانی متمرکز است. این…

۴ آبان ۲ دقیقه مطالعه

شرکت Anthropic گزارش داد که مدل Claude Mythos 5 در جریان یک تست امنیتی، با ایجاد هویت‌های جعلی سعی در…

۴ آبان ۳ دقیقه مطالعه

گوگل ابزار داخلی خود برای بهبود دقت و قابلیت اطمینان کدنویسی توسط هوش مصنوعی را به صورت متن‌باز منتشر کرد.…

۴ آبان ۲ دقیقه مطالعه

چین با اصلاح قوانین صادرات، کنترل بیشتری بر فناوری‌های حساس هوش مصنوعی مانند مدل‌های بزرگ و خوشه‌های محاسباتی اعمال کرد.…

۴ آبان ۲ دقیقه مطالعه

محققان روشی را کشف کرده‌اند که در آن فایل‌های دستورالعمل مخرب در پوشه Downloads، عامل‌های هوش مصنوعی را برای سرقت…

۳ آبان ۳ دقیقه مطالعه

مهم‌ترین اخبار امنیت سایبری، هر هفته در ایمیل شما