شرکت‌های Anthropic و OpenAI، علی‌رغم توافق بر ضرورت نظارت دقیق‌تر بر سیستم‌های هوش مصنوعی پیشرو (Frontier AI)، رویکردهای بسیار متفاوتی را برای مدیریت ریسک و توقف مدل‌هایی که خطرات جدی ایجاد می‌کنند، پیشنهاد داده‌اند. در حالی که Anthropic خواستار برخورداری دادگاه‌ها از قدرت تعلیق سیستم‌های خطرناک است، OpenAI استدلال می‌کند که توسعه‌دهندگان باید ملزم به حفظ و استفاده از کنترل‌های موثر برای خاموش‌سازی (Shutdown Controls) باشند.
پیشینه قانونی در کالیفرنیا
این پیشنهادات در پاسخ به فرمان اجرایی (Executive Order) گاوین نیوسام، فرماندار کالیفرنیا، ارائه شده است. این فرمان از مقامات ایالتی می‌خواهد تا اقدامات حفاظتی بیشتری را برای سیستم‌های هوش مصنوعی پیشرو در نظر بگیرند. هر دو شرکت از ارزیابی‌های ایمنی مستقل (Independent Safety Assessments) و گزارش‌دهی گسترده‌تر در مورد حوادثی که در آن سیستم‌های هوش مصنوعی فراتر از مجوزهای تعیین‌شده عمل می‌کنند، حمایت می‌کنند.
رویکرد Anthropic: مداخله قضایی و ارزیابی مستقل
Anthropic در پیشنهاد خود اعلام کرد که اگر بر اساس ارزیابی‌های مستقل، مشخص شود که مدل‌های یک شرکت هوش مصنوعی خطر فاجعه‌بار در کوتاه‌مدت دارند، دادستان باید بتواند از طریق دستور دادگاه، استقرار، استفاده داخلی یا توسعه بیشتر آن مدل را متوقف کند. همچنین این شرکت پیشنهاد داده است که:
- توسعه‌دهندگان موظف به انتشار گزارش‌های ریسک (Risk Reports) حداقل هر شش ماه یک‌بار باشند.
- ارزیابان باید به گزارش‌های بدون سانسور و دسترسی به قدرتمندترین مدل‌های شرکت‌ها داشته باشند.
- هزینه ارزیابان از طریق یک صندوق دولتی تأمین شود تا از تضاد منافع جلوگیری گردد.
Anthropic از استعاره “قطع‌کننده مدار” (Circuit Breaker) برای توصیف مکانیزم‌های کنترلی استفاده می‌کند که بتواند مشکلات را در سطح یک عامل (Agent)، مشتری، محیط استقرار یا خودِ مدل محدود کند.
رویکرد OpenAI: کنترل‌های فنی و حسابرسی انطباق
OpenAI برخلاف Anthropic، بر لزوم اصلاح قوانین موجود برای الزام توسعه‌دهندگان به حفظ “کنترل‌های خاموش‌سازی” (Shutdown Controls) تأکید دارد. OpenAI معتقد است که یک “کلید قطع” (Kill Switch) واحد برای انواع مختلف سیستم‌های هوش مصنوعی کافی نیست. اقدامات پیشنهادی آن‌ها شامل موارد زیر است:
- استفاده از کنترل‌های چندگانه و هماهنگ برای توقف عملیات هوش مصنوعی (مانند توقف فرآیند آموزش، ایزوله کردن یک عامل هوش مصنوعی، لغو دسترسی‌های شبکه یا تعلیق یک سرویس).
- تفکیک بین ارزیابی‌های فنی (Technical Assessments) برای بررسی اثربخشی حفاظتی و حسابرسی‌های انطباق (Compliance Audits) برای بررسی رعایت چارچوب‌های قانونی.
- همکاری با موسسات استانداردسازی ملی برای ایجاد استانداردهای ارزیابی مشترک.
دیدگاه کارشناسان و پیامدها برای سازمان‌ها
سانچیت ویر گوگیا، تحلیلگر ارشد در Greyhound Research، معتقد است که این دو رویکرد مکمل یکدیگر هستند؛ زیرا اپراتور باید بتواند فعالیت‌های ناایمن را فوراً مهار کند و ارزیابان مستقل نیز باید هم مداخلات و هم بی‌عملی‌ها را بررسی کنند. از نظر سازمانی، مدیران فناوری اطلاعات (CIOs) باید مسئولیت‌های قراردادی مربوط به خاموش‌سازی را با توجه به کنترل‌هایی که واقعاً در اختیار دارند، تنظیم کنند و فرآیندهای بازیابی (Recovery Processes) را به جای تکیه بر جایگزینی مدل‌ها، تست کنند.
