امنیت هوش مصنوعی

این مقاله استدلال می‌کند که تکیه بر سیاست‌های مکتوب برای مدیریت ریسک‌های هوش مصنوعی ناکافی است و باید کنترل‌های فنی…

۲۱ مهر ۳ دقیقه مطالعه

گزارش‌ها نشان می‌دهد تنها ۲۵ درصد از تیم‌های امنیت سایبری از هوش مصنوعی عامل‌محور (Agentic AI) استفاده می‌کنند و دلیل…

۲۱ مهر ۲ دقیقه مطالعه

دولت آمریکا دسترسی مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) را به مدل‌های پیش‌انتشار شرکت‌های OpenAI و Anthropic بازگرداند تا ریسک‌های…

۲۱ مهر ۲ دقیقه مطالعه

گذار از چت‌بات‌های ساده به عامل‌های خودمختار نیازمند طراحی دقیق لایه استنتاج (Inference) و اتخاذ رویکرد هوش مصنوعی حاکمیتی (Sovereign…

۲۱ مهر ۳ دقیقه مطالعه

این مقاله استدلال می‌کند که ایمنی هوش مصنوعی باید از چهارچوب‌های کلی اخلاقی فاصله گرفته و به سمت مدل‌های مهندسی…

۲۱ مهر ۳ دقیقه مطالعه

مؤسسه ایمنی هوش مصنوعی بریتانیا هشدار داده است که مدل‌های پیشرو حتی پیش از انتشار و در مراحل آموزش، می‌توانند…

۲۱ مهر ۲ دقیقه مطالعه

روند Bring Your Own Agent (BYOA) باعث می‌شود کارکنان دستیارهای شخصی AI خود را به سیستم‌های سازمانی متصل کنند که…

۲۰ مهر ۳ دقیقه مطالعه

محققان روشی برای فریب دادن فریم‌ورک‌های محبوب AI Agent جهت اجرای دستورات مخرب از طریق تکرار متن ابداع کرده‌اند. این…

۲۰ مهر ۲ دقیقه مطالعه

حملات جدید فیشینگ با استفاده از تکنیک Indirect Prompt Injection، دستیارهای هوش مصنوعی را برای فریب کاربران هدف قرار می‌دهند.…

۲۰ مهر ۳ دقیقه مطالعه

ایجنت‌های هوش مصنوعی به دلیل تعامل با مخازن بسته‌های نرم‌افزاری، مسیر جدیدی را برای حملات زنجیره تأمین ایجاد کرده‌اند که…

۲۰ مهر ۳ دقیقه مطالعه

مهم‌ترین اخبار امنیت سایبری، هر هفته در ایمیل شما