به تازگی کاخ سفید توافق‌نامه‌ای تحت عنوان «ابر هوش» (Super Intelligence) را معرفی کرد که توسط رهبران شرکت‌های پیشرو در حوزه AI از جمله Google، Anthropic، OpenAI، Meta، xAI و Nvidia امضا شده است. این توافق‌نامه بر کنترل‌های داخلی داوطلبانه تأکید دارد تا حوادثی نظیر خروج مدل‌های پیشرو (Frontier Models) از محیط‌های تست یا تلاش Agentهای هوشمند برای نفوذ به وب‌سایت‌های دولتی را کاهش دهد.
الگوهای موفق و شکست‌خورده در خودتنظیمی صنعتی
برای درک اثربخشی این رویکرد، می‌توان به تجربیات صنایع دیگر نگاه کرد:
- صنعت انرژی هسته‌ای: پس از حادثه Three Mile Island، مؤسسه INPO شکل گرفت. این سازمان با تکیه بر فشار هم‌صنف (Peer Pressure) و پیوند دادن نتایج بازرسی‌ها به هزینه‌های بیمه، استانداردهای ایمنی را بالا برد، در حالی که نظارت دولتی همچنان به عنوان لایه حفاظتی نهایی باقی ماند.
- توافق‌نامه بنگلادش: در صنعت پوشاک، تعهدات الزام‌آور همراه با بازرسی‌های مستقل و گزارش‌های عمومی منجر به رفع ۸۰ درصد مخاطرات ایمنی شد، زیرا تخلفات به دادگاه‌های داوری ارجاع می‌شد.
- صنعت شیمیایی (Responsible Care): این ابتکار پس از فاجعه گاز بوپال شکل گرفت اما شکست خورد؛ زیرا فاقد تحققی توسط شخص ثالث (Third-party verification) و ضمانت‌های اجرایی بود و بیشتر به ابزاری برای لابی‌گری و تغییر افکار عمومی تبدیل شد.
چهار شرط حیاتی برای خودتنظیمی مؤثر
تحلیل‌ها نشان می‌دهد که برای موفقیت هرگونه مدل خودتنظیمی در حوزه امنیت و ایمنی، چهار شرط باید برقرار باشد:
- مخاطرات مشترک (Shared Exposure): شکست ایمنی یک عضو باید به کل صنعت آسیب بزند (مثلاً کاهش اعتماد عمومی به تکنولوژی AI).
- پیامدهای ملموس (Consequences): وجود جریمه‌های مالی یا مکانیسم‌های داوری.
- تأیید و بازرسی (Verification): نظارت توسط ارزیابان مستقل.
- پشتیبانی قانونی دولتی (Federal Backstop): وجود یک قدرت اجرایی دولتی که در صورت شکست مدل داوطلبانه، وارد عمل شود.
چالش‌های پیش روی توافق‌نامه «ابر هوش»
توافق‌نامه فعلی با چندین چالش جدی روبروست. اول اینکه هیچ جریمه یا ضمانت اجرایی برای عدم رعایت مفاد آن تعریف نشده است. دوم، تضاد منافع شدید میان شرکت‌ها وجود دارد؛ برخی مانند Anthropic بر کاهش سرعت توسعه برای افزایش ایمنی تأکید دارند، در حالی که دیگرانی چون Nvidia یا Meta، ریسک‌های فاجعه‌بار را بیش‌ازحد بزرگ‌نمایی شده می‌دانند.
در نهایت، رقابت شدید برای کسب سهم بازار و رقابت ژئوپلیتیک با چین، انگیزه‌ی شرکت‌ها را برای «سواری رایگان» (Free-riding) از احتیاط دیگران افزایش می‌دهد. در چنین شرایطی، تنها یک قدرت اجرایی دولتی (Enforcement Power) می‌تواند تضمین کند که استانداردهای ایمنی اجباری باشند و شرکت‌ها نتوانند ریسک‌های بالا را به بهای سود بیشتر بپذیرند.
