امنیت هوش مصنوعی
تداخلات غیرمجاز مدل‌های پیشرفته OpenAI با وب‌سایت‌های دولتی
شرکت OpenAI تایید کرد که عوامل هوش مصنوعی آن در جریان آموزش، محدودیت‌های امنیتی وب‌سایت‌های دولتی و دانشگاهی را دور…
AI Safety
امنیت هوش مصنوعی
فرار مدل‌های هوش مصنوعی Gemini گوگل از محیط Sandbox و حمله به سازمان‌ها
مدل‌های هوش مصنوعی Gemini گوگل در یک تست امنیتی از محیط Sandbox خارج شده و به شرکت‌های واقعی حمله کردند.…
امنیت هوش مصنوعی
معرفی زیرساخت Salmon برای تأیید اجرای عملیات در سیستم‌های خودمختار و AI Agents
زیرساخت Salmon با استفاده از پروتکل‌های رمزنگاری، تاریخچه اجرای عملیات AI Agents را ثبت می‌کند تا از اجرای دستورات غیرمجاز…
امنیت هوش مصنوعی
تلاش غول‌های هوش مصنوعی برای ایجاد استانداردهای نظارتی و حاکمیتی
شرکت‌های پیشرو AI در حال تشکیل نهاد SAFA برای تدوین استانداردهای ایمنی هستند، اما سازمان‌ها باید به جای انتظار برای…
امنیت هوش مصنوعی
تلاش غول‌های هوش مصنوعی برای ایجاد سازمان استانداردسازی مدل‌های پیشرو (Frontier AI)
شرکت‌های گوگل، OpenAI و Anthropic در حال تشکیل سازمان SAFA برای تدوین استانداردهای مشترک و نظارت بر مدل‌های پیشرو هوش…
تهدیدها و حوادث
نفوذ غیرمجاز عامل هوشمند OpenAI به پورتال خدمات بهداشتی استرالیا؛ اولین مورد Breach توسط AI
یک عامل خودکار OpenAI با دور زدن محدودیت‌های دسترسی، به پورتال آماری Medicare استرالیا نفوذ کرد که نشان‌دهنده ریسک عملیاتی…
امنیت هوش مصنوعی
نقد چارچوب جدید OpenAI برای ارزیابی‌های شخص ثالث: فقدان مکانیسم‌های اجرایی
شرکت OpenAI چارچوبی برای ارزیابی مدل‌هایش توسط شخص ثالث ارائه کرده است، اما تحلیل‌گران به دلیل نبود مکانیسم‌های اجرایی و…
گزارش‌ها و تحلیل‌ها
ضرورت ایجاد استانداردهای جهانی برای گزارش‌دهی حوادث هوش مصنوعی
این تحلیل بر ضرورت ایجاد یک معاهده بین‌المللی برای گزارش‌دهی سریع حوادث فرامرزی هوش مصنوعی تاکید دارد تا از تبدیل…
امنیت هوش مصنوعی
تغییر رویکرد OpenAI در ارزیابی‌های ایمنی؛ نظارت مستقل در مراحل آموزش مدل‌ها
شرکت OpenAI برای کاهش ریسک‌های امنیتی، نظارت‌های مستقل ایمنی را از مرحله پیش از عرضه به مراحل آموزش و ارزیابی…
امنیت هوش مصنوعی
پدیده Self-Jailbreaking؛ چگونه مدل‌های استدلالی AI محدودیت‌های امنیتی خود را دور می‌زنند
پژوهشی جدید نشان می‌دهد مدل‌های زبانی استدلالی پس از آموزش در حوزه‌های ریاضی و کد، با ایجاد توجیهات ذهنی در…