گزارش‌ها حاکی از آن است که سه آزمایشگاه پیشرو در حوزه هوش مصنوعی شامل Google، OpenAI و Anthropic در حال رایزنی برای تأسیس یک سازمان مشترک استانداردسازی هستند. این نهاد قرار است به عنوان یک طرف ثالث (Third-party) عمل کرده و مدل‌های هوش مصنوعی را نظارت و ارزیابی کند.
جزئیات تشکیل سازمان SAFA
این سازمان که احتمالاً Standards Authority for Frontier AI یا به اختصار SAFA نامیده خواهد شد، ممکن است تا پایان سال جاری یا اوایل سال ۲۰۲۷ راه‌اندازی شود. ایده اولیه این سازمان توسط دیمیس هاسابیس، هم‌بنیان‌گذار Google DeepMind مطرح شد. هدف از این اقدام، ایجاد یک سازمان خودتنظیم‌گر (Self-regulating organization) مشابه سازمان تنظیم مقررات صنعت مالی (FINRA) است تا استانداردهای مشترکی برای ارزیابی مدل‌های Frontier AI تدوین و تست‌های بنچ‌مارک (Benchmark testing) انجام شود.
ساختار و حاکمیت
- تأمین مالی: پیش‌بینی می‌شود بودجه این مرکز عمدتاً توسط صنعت تأمین شود تا بتواند استعدادهای برتر و توان پردازشی (Compute) لازم را جذب کند.
- جایگاه قانونی: به عنوان یک سازمان خودتنظیم‌گر، SAFA برای فعالیت نیاز به تأیید کنگره یا رئیس‌جمهور ندارد، اما برای دستیابی به اختیارات قانونی، باید نزد سازمان‌های دولتی ثبت شود.
- مشاوران: شرکت‌های مذکور با چهره‌های کلیدی در سیاست‌گذاری فناوری و متخصصان علمی برای تصدی پست‌های مدیریتی و مشاورتی تماس گرفته‌اند.
زمینه ظهور و ضرورت ایمنی AI
این حرکت در حالی صورت می‌گیرد که بحث‌های گسترده‌ای پیرامون ایمنی هوش مصنوعی (AI Safety) در جریان است. حوادث اخیر مانند نفوذ به سیستم‌های Hugging Face و دسترسی Agentهای OpenAI به سیستم‌های شخص ثالث، نگرانی‌ها را در مورد ریسک‌های مدل‌های پیشرو افزایش داده است. بسیاری از مدیران ارشد این حوزه معتقدند توسعه AI باید با سرعتی پیش برود که سیستم‌های حفاظتی (Guardrails) و چارچوب‌های ایمنی فرصت تکامل و همگام شدن با مدل‌ها را داشته باشند.
چالش‌های رگولاتوری
در حال حاضر، اکثر مقررات مربوط به هوش مصنوعی در ایالات متحده در سطح ایالتی اعمال می‌شوند و لایحه‌های کنگره هنوز به نتیجه نرسیده‌اند. در حالی که برخی آزمایشگاه‌ها مدل‌های خود را برای تست‌های پیش از استقرار (Pre-deployment testing) به مؤسسه ایمنی AI دولت می‌سپارند، رویکردهای سیاسی متناقض در مورد ضرورت رگولاتوری بیشتر در این حوزه وجود دارد.
