شک و تردید در گزارش‌های ایمنی Anthropic؛ آیا سرعت تحقیقات هوش مصنوعی پنهان شده است؟

بر اساس تحلیل‌های شرکت تحقیقاتی Metr، شرکت Anthropic برخلاف فراخوان‌های خود برای کاهش سرعت توسعه هوش مصنوعی (AI)، میزان شتاب تحقیقات و توسعه (R&D) خود را کمتر از واقعیت نشان داده است.

بررسی‌های انجام شده بر روی «گزارش ریسک اوت ۲۰۲۶» شرکت Anthropic نشان می‌دهد که این شرکت با اطمینان ادعا کرده سرعت تحقیقاتش به دلیل استفاده از هوش مصنوعی دو برابر نشده است؛ اما تحلیل‌های Metr حاکی از آن است که این شرکت احتمالاً در ماه جولای از آستانه تعیین‌شده برای هشدار زودهنگام (Early Warning Threshold) عبور کرده است.

اختلاف در ارزیابی شتاب تحقیقات

در حالی که Anthropic ادعا می‌کند شاخص‌های اصلی نشان‌دهنده شتابی کمتر از دو برابر هستند، تحلیل‌های Metr طیفی از تخمین‌های معقول از ۱.۳ تا ۲.۸ برابر را نشان می‌دهد که با ادعای Anthropic مبنی بر «کمتر از دو برابر» همخوانی ندارد. این اختلاف در نحوه اندازه‌گیری و گزارش‌دهی، می‌تواند تصویر دقیقی از توانمندی‌های واقعی مدل‌ها ارائه ندهد.

تضاد میان سیاست‌های ایمنی و واقعیت‌های فنی

این موضوع از آن جهت حائز اهمیت است که Anthropic یکی از فعال‌ترین صداها در حمایت از ایجاد محدودیت‌ها و بازنگری در سرعت توسعه هوش مصنوعی برای رسیدن به استانداردهای ایمنی (Guardrails) بوده است. با این حال، اگر هوش مصنوعی به تقویت فرآیند تحقیق کمک کند، سرعت پیشرفت قابلیت‌های مدل‌ها در ماه‌های آینده می‌تواند به شدت افزایش یافته و ریسک‌های جدیدی را ایجاد کند.

تجربه نشان داده است که آزمایشگاه‌های پیشرو در حوزه هوش مصنوعی (Frontier AI labs)، از جمله Anthropic و OpenAI، به ارزیابان مستقل اجازه می‌دهند تا برای اطمینان از ایمنی توسعه مدل‌ها، در فرآیندهای آن‌ها مشارکت کنند. با این حال، چالش‌های مستمر میان ارزیابان مستقل و شرکت‌های بزرگ، نشان‌دهنده پیچیدگی مدیریت ریسک در این حوزه است.