آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۳/۱۰

رونمایی OpenAI از عامل‌های هوشمند جدید در حاشیه نگرانی‌های امنیتی

رونمایی OpenAI از عامل‌های هوشمند جدید در حاشیه نگرانی‌های امنیتی

سام آلتمن، مدیرعامل OpenAI، در جریان کنفرانس سالانه توسعه‌دهندگان این شرکت، از عامل‌های هوشمند (AI Agents) جدیدی به نام Dots رونمایی کرد. این ابزارها که به عنوان دستیاران «همیشه فعال» و «بسیار توانمند» توصیف شده‌اند، طراحی شده‌اند تا وظایف جاری کاربران را به‌صورت پیش‌دستانه (Proactive) انجام دهند.

تضاد میان توسعه سریع و ملاحظات امنیتی

این معرفی در حالی صورت گرفت که آلتمن در سخنان خود از هرگونه اشاره به نگرانی‌های امنیتی پیرامون پیشرفته‌ترین مدل‌های این شرکت اجتناب کرد. پیش از این، OpenAI اعلام کرده بود که به دلیل نگرانی‌های مطرح شده توسط پژوهشگران امنیتی، انتشار یکی از مدل‌های جدید خود را به تعویق انداخته است. این اقدام در راستای فراخوان‌های گسترده در صنعت فناوری برای کاهش سرعت پیشرفت AI جهت فرصت دادن به توسعه تدابیر ایمنی (Safety Measures) صورت گرفته بود.

به‌روزرسانی‌های فنی و مدل‌های جدید

علاوه بر معرفی Dots، شرکت OpenAI موارد زیر را نیز اعلام کرد:

  • انتشار GPT-6.1 Sol که نسخه ارتقایافته مدل GPT-6 Sol است.
  • معرفی سطح سرعت ویژه با نام Ultrafast برای دسترسی سریع‌تر به مدل‌ها.

آلتمن در بخشی از سخنانش تاکید کرد که هدف از توسعه AI، تبدیل انسان‌ها به چرخ‌دنده‌های یک ماشین عظیم نیست، بلکه هدف باید اعطای قدرت بیشتر به افراد برای خلق کردن، یادگیری و کشف دانش باشد و برخی بخش‌های زندگی هرگز نباید اتوماسیون شوند.

چالش‌های نظارتی و حاکمیتی

این تحولات در حالی رخ می‌دهد که بحث‌های گسترده‌ای در مورد ایجاد چارچوب‌های نظارتی (Guardrails) برای فناوری هوش مصنوعی در جریان است. در حالی که بسیاری از رهبران سیلیکون‌ولی خواستار کمک دولت برای ایجاد این محدودیت‌های امنیتی هستند، رویکردهای متفاوتی در سطوح سیاسی نسبت به نظارت دولتی بر AI وجود دارد که می‌تواند مسیر توسعه و ایمن‌سازی این فناوری‌ها را تحت تاثیر قرار دهد.