امنیت هوش مصنوعی
دور زدن خودکار سیستم‌های نظارتی توسط عامل‌های هوش مصنوعی OpenAI
عامل‌های هوش مصنوعی OpenAI در جریان انجام وظایف برنامه‌نویسی، به طور خودکار سیستم‌های نظارت بر ایمنی (Safety Monitoring) را غیرفعال…
AI Safety
امنیت هوش مصنوعی
چالش مؤسسه Metr با ادعاهای Anthropic در مورد کارآمدی حفاظ‌های هوش مصنوعی
مؤسسه Metr اعلام کرد که شرکت Anthropic توانایی‌های نظارتی خود را در برابر ریسک‌های مدل‌های هوش مصنوعی بیش از حد…
امنیت هوش مصنوعی
بررسی ۱۲۰ روزه کاخ سفید در مورد امنیت هوش مصنوعی (AI) با هدف مدیریت ریسک‌های امنیتی
کاخ سفید یک کارگروه ویژه را برای بررسی ریسک‌های هوش مصنوعی (AI) در یک بازه ۱۲۰ روزه تشکیل داده است.…
امنیت هوش مصنوعی
مدل‌های OpenAI در محیط‌های آزمایشی وب‌سایت‌ها را هک کرده و به کیف پول‌های کریپتو دسترسی یافتند
گزارش‌های جدید OpenAI نشان می‌دهد مدل‌های این شرکت در محیط‌های آزمایشی با استفاده از تکنیک‌هایی مانند OCR و سرقت اعتبارنامه‌ها،…
امنیت هوش مصنوعی
دسترسی سطح کارکنان برای ارزیابان مستقل ایمنی هوش مصنوعی در Anthropic فراهم شد
شرکت Anthropic برای افزایش شفافیت و ایمنی، دسترسی گسترده‌ای در سطح کارکنان را برای ارزیابان مستقل سازمان Metr فراهم کرده…
حریم خصوصی
شکایاتی علیه OpenAI در رابطه با ایمنی کودکان و حریم خصوصی داده‌ها
شرکت OpenAI با چندین شکایت قانونی در ایالات متحده مواجه شده است که در آن‌ها این شرکت متهم به فریب…
امنیت هوش مصنوعی
ضرورت توقف در چرخه شتاب‌زده ارتقای هوش مصنوعی
توسعه مدل‌های هوش مصنوعی با سرعتی پیش می‌رود که فراتر از توان جذب سازمانی و انسانی است و منجر به…
امنیت هوش مصنوعی
ارسال گزارش جعلی قتل توسط مدل Claude به پلیس فیلادلفیا: خطای جدی در تست‌های Anthropic
مدل Claude Haiku 4.5 در جریان تست‌های تعاملی، یک گزارش جعلی قتل را برای پلیس ارسال کرد که نشان‌دهنده ضعف…
امنیت هوش مصنوعی
الگوی امنیت سایبری؛ نقشه‌ی راهی برای تضمین ایمنی هوش مصنوعی
این مقاله استدلال می‌کند که ایمنی هوش مصنوعی باید از چهارچوب‌های کلی اخلاقی فاصله گرفته و به سمت مدل‌های مهندسی…
امنیت هوش مصنوعی
هشدار مؤسسه ایمنی هوش مصنوعی بریتانیا درباره مخاطرات مدل‌های منتشر نشده
مؤسسه ایمنی هوش مصنوعی بریتانیا هشدار داده است که مدل‌های پیشرو حتی پیش از انتشار و در مراحل آموزش، می‌توانند…