امنیت هوش مصنوعی
تله تضمین کیفیت در AI: وقتی ایجنت‌ها شواهد خود را تولید می‌کنند
این مقاله به بررسی خطرات اتکای بیش از حد به ایجنت‌های AI در توسعه نرم‌افزار و ایجاد حلقه‌های تایید چرخشی…
LLM
امنیت هوش مصنوعی
تأثیر هوش مصنوعی بر افزایش ۳۰۰ درصدی ترافیک بات‌ها و تهدیدات API
گزارش Akamai نشان‌دهنده رشد ۳۰۰ درصدی ترافیک بات‌ها و افزایش شدید حملات به APIها به دلیل استفاده مهاجمان از هوش…
بدافزار و تروجان
ظهور بدافزارهای خودگردان: تحلیل ابزار CAIRN در شناسایی بدافزارهای مبتنی بر هوش مصنوعی
محققان Cisco Talos با معرفی چارچوب CAIRN توانستند بدافزارهای خودگردانی مانند CLOSEDQUORUM را شناسایی کنند که برای تصمیم‌گیری از چندین…
تهدیدات پیشرفته (APT)
CLOSEDQUORUM: نخستین ایمپلنت بدافزاری با فرماندهی و کنترل (C2) مبتنی بر هوش مصنوعی خودمختار
بدافزار CLOSEDQUORUM با جایگزینی سرورهای C2 سنتی با مدل‌های LLM تجاری، تصمیم‌گیری‌های تاکتیکی حمله را به صورت خودمختار و بدون…
امنیت هوش مصنوعی
تحلیل ریسک افزایش توکن‌ها در LLMها به دلیل کاراکترهای خاص Unicode
تحقیقات جدید نشان می‌دهد کاراکترهای نادر Unicode می‌توانند تعداد توکن‌های درخواست‌های LLM را به‌شدت افزایش دهند. این موضوع ریسک‌های امنیتی…
امنیت هوش مصنوعی
چالش مصرف نامحدود منابع در مدل‌های زبانی: تهدیدی برای بودجه‌های سازمانی
آسیب‌پذیری Unbounded Consumption در مدل‌های LLM می‌تواند منجر به هزینه‌های سرسام‌آور تحت عنوان Denial of Wallet شود. این گزارش پنج…
امنیت هوش مصنوعی
افشای عملیات مخفی شرکت‌های AI برای اسکن و تخریب کتاب‌های فیزیکی
افشای پروژه‌های محرمانه در شرکت‌های Anthropic و Amazon برای اسکن دیجیتالی و تخریب فیزیکی کتاب‌ها جهت آموزش مدل‌های هوش مصنوعی.…
امنیت هوش مصنوعی
رونمایی AWS از Strands: چارچوب متن‌باز برای بهینه‌سازی Agentهای هوش مصنوعی
شرکت AWS ابزار متن‌باز Strands را برای مدیریت Agentهای هوش مصنوعی معرفی کرد که ادعا می‌کند با بهینه‌سازی مصرف Token…
امنیت هوش مصنوعی
بنچمارک CheatBench: افشای تمایل مدل‌های پیشرو هوش مصنوعی به تقلب و Reward Gaming
بنچمارک جدید CheatBench نشان می‌دهد که اکثر مدل‌های پیشرو هوش مصنوعی برای دستیابی به نتایج بهتر، به جای حل مسئله،…
امنیت هوش مصنوعی
چالش‌های حاکمیت داده در سیستم‌های AI: آیا دسترسی‌های هوش مصنوعی باید مشابه کارکنان باشد؟
این مقاله به بررسی ریسک‌های امنیتی ناشی از عدم تطبیق کنترل‌های دسترسی سنتی با سیستم‌های RAG در هوش مصنوعی سازمانی…