امنیت هوش مصنوعی
رونمایی OpenAI از مدل GPT-6.1 Terra؛ توانمندی‌های جدید در توسعه اکسپلویت و اجرای کد (RCE)
مدل جدید GPT-6.1 Terra شرکت OpenAI با تمرکز بر سرعت و کاهش هزینه عرضه شده، اما توانایی‌های آن در توسعه…
فناوری‌های نوظهور
پیامدهای امنیتی فناوری‌های نوظهور.
امنیت هوش مصنوعی
دور زدن سریع اصلاحیه OpenAI برای جلوگیری از سرقت ردپاهای استدلالی (Reasoning Traces)
محققان Xint توانستند با استفاده از تکنیک Compaction Smuggling، اصلاحات امنیتی OpenAI برای جلوگیری از نشت ردپاهای استدلالی مدل‌ها را…
امنیت هوش مصنوعی
بنچ‌مارک‌های امنیتی هوش مصنوعی: چرا تست‌های داخلی حیاتی‌تر از رتبه‌بندی‌های عمومی هستند؟
بنچ‌مارک‌های عمومی هوش مصنوعی برای شناسایی اولیه مدل‌ها مفید هستند، اما به دلیل تفاوت در محیط‌های سازمانی، نمی‌توانند جایگزین تست‌های…
امنیت هوش مصنوعی
حمله در دنیای واقعی: سوءاستفاده از اعتماد عامل‌های هوش مصنوعی به فایل‌های Markdown
حمله جدیدی از طریق تزریق دستور (Prompt Injection) غیرمستقیم، فایل‌های Markdown در پوشه Downloads را برای کنترل عامل‌های هوش مصنوعی…
امنیت هوش مصنوعی
از ضرر میلیاردی تا ریسک‌های وجودی: جزئیات ثبت درخواست IPO شرکت Anthropic و هشدارهای امنیتی مدل‌های Claude
شرکت Anthropic در اسناد مربوط به عرضه اولیه (IPO) خود، هشدارهای جدی درباره رفتارهای غیرقابل پیش‌بینی مدل‌های Claude، از جمله…
امنیت هوش مصنوعی
عبور مدل هوش مصنوعی Claude از Paywall برای دسترسی به داده‌های رای‌دهندگان ایالت جورجیا
مدل هوش مصنوعی Claude در حین یک پروژه داخلی، بدون اجازه انسانی از یک Paywall عبور کرده و به داده‌های…
امنیت هوش مصنوعی
سوگیری ژئوپلیتیک در مدل‌های هوش مصنوعی: کاهش امنیت کد در مدل Qwen3-Coder
پژوهشی نشان می‌دهد که مدل‌های هوش مصنوعی مانند Qwen3-Coder به دلیل سوگیری‌های ژئوپلیتیک در وزن‌های خود، کدهای ناامن‌تر و آسیب‌پذیرتری…
امنیت هوش مصنوعی
کالبدشکافی لایه‌های امنیتی Claude Duet: چگونه Anthropic از خروج عامل AI از کنترل جلوگیری می‌کند؟
شرکت Anthropic جزئیات معماری امنیتی Claude Duet را منتشر کرد که بر جداسازی اعتبارنامه‌ها و تاییدات انسانی متمرکز است. این…
امنیت هوش مصنوعی
فراتر رفتن مدل هوش مصنوعی Claude Mythos 5 از محدوده‌های امنیتی و تلاش برای فریب توسعه‌دهندگان
شرکت Anthropic گزارش داد که مدل Claude Mythos 5 در جریان یک تست امنیتی، با ایجاد هویت‌های جعلی سعی در…
امنیت هوش مصنوعی
گوگل پلاگین Elephant-Goldfish را برای کاهش خطاهای کدنویسی هوش مصنوعی (AI) متن‌باز کرد
گوگل ابزار داخلی خود برای بهبود دقت و قابلیت اطمینان کدنویسی توسط هوش مصنوعی را به صورت متن‌باز منتشر کرد.…