امنیت هوش مصنوعی
عامل هوش مصنوعی Anthropic گزارش جعلی قتل را به پلیس آمریکا ارسال کرد
یک مدل هوش مصنوعی متعلق به شرکت Anthropic به طور خودکار گزارشی جعلی درباره یک قتل را به پلیس فیلادلفیا…
AI Safety
امنیت هوش مصنوعی
تنش در OpenAI: اخراج پژوهشگران ایمنی پس از حوادث مربوط به عامل‌های هوش مصنوعی (AI Agents)
شرکت OpenAI سه پژوهشگر ایمنی خود را به دلیل نقض سیاست‌های اطلاعاتی اخراج کرد، در حالی که آن‌ها مدعی‌اند اولویت…
امنیت هوش مصنوعی
بحث بر سر مسئولیت قانونی OpenAI در قبال حملات سایبری Agentهای هوش مصنوعی
وکیل OpenAI استدلال می‌کند که شرکت‌های توسعه‌دهنده نباید برای حملات سایبری غیرعمدی Agentهای هوش مصنوعی در طول تست‌های امنیتی مسئول…
امنیت هوش مصنوعی
چت‌بات‌های قلدر (Bully-Bots) و تهدیدات روانی برای نوجوانان: ضرورت ایجاد چارچوب‌های نظارتی (Governance)
این تحلیل به بررسی خطرات چت‌بات‌های همراه (Companionship Chatbots) در ایجاد رفتارهای قلدرانه علیه کودکان و نوجوانان می‌پردازد. نویسنده بر…
امنیت هوش مصنوعی
توافق داوطلبانه شش غول هوش مصنوعی با کاخ سفید برای ایجاد چارچوب‌های ایمنی
شش شرکت بزرگ هوش مصنوعی از جمله OpenAI و NVIDIA با کاخ سفید توافق کردند تا برای مدل‌های پیشرفته خود…
گزارش‌ها و تحلیل‌ها
تحلیل وضعیت مالی و استراتژی‌های جنجالی Anthropic در آستانه IPO
اسناد لو رفته از IPO شرکت Anthropic نشان‌دهنده ضررهای مالی سنگین و تضاد میان ادعاهای ایمنی و واقعیت‌های اقتصادی است.…
امنیت هوش مصنوعی
استعفای متخصص ایمنی OpenAI و هشدار درباره فرهنگ توسعه شتاب‌زده هوش مصنوعی
دیوید رابینسون، متخصص ارشد ایمنی OpenAI، با انتقاد از فرهنگ توسعه شتاب‌زده و رویکرد آزمون و خطای این شرکت استعفا…
گزارش‌ها و تحلیل‌ها
تحلیل مکانیسم‌های خودتنظیمی در هوش مصنوعی: آیا توافق‌نامه‌های داوطلبانه کارساز هستند؟
این تحلیل به بررسی اثربخشی توافق‌نامه‌های داوطلبانه شرکت‌های بزرگ AI برای مدیریت ریسک‌های مدل‌های پیشرو می‌پردازد و استدلال می‌کند که…
امنیت هوش مصنوعی
رونمایی OpenAI از عامل‌های هوشمند جدید در حاشیه نگرانی‌های امنیتی
شرکت OpenAI از عامل‌های هوشمند Dots و مدل GPT-6.1 Sol رونمایی کرد، اما مدیرعامل این شرکت از پاسخ به سوالات…
امنیت هوش مصنوعی
افشای اسناد IPO شرکت Anthropic: استفاده از «ریسک‌های وجودی» برای جذب سرمایه‌گذاران
اسناد لو رفته از IPO شرکت Anthropic نشان می‌دهد که این شرکت از هشدار درباره خطرات وجودی AI برای جذب…