آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۳/۱۰

توافق داوطلبانه غول‌های فناوری برای نظارت داخلی بر توسعه هوش مصنوعی

توافق داوطلبانه غول‌های فناوری برای نظارت داخلی بر توسعه هوش مصنوعی

دونالد ترامپ، رئیس ایالات متحده، از امضای یک توافق‌نامه داوطلبانه با رهبران شرکت‌های پیشرو در حوزه هوش مصنوعی (AI) خبر داد. این توافق که در دیدار با مدیران ارشد شرکت‌هایی نظیر Google، Meta، OpenAI، Nvidia، Anthropic و xAI در کاخ سفید منعقد شد، بر مفهوم «خود-نظارتی» (Self-Policing) برای کاهش نگرانی‌های عمومی درباره ریسک‌های این فناوری تأکید دارد.

جزئیات مکانیسم نظارتی توافق‌نامه

این توافق‌نامه بر چهار گام داوطلبانه تمرکز دارد تا تعادلی میان نوآوری و امنیت ایجاد کند:

  • پیاده‌سازی کنترل‌های داخلی سخت‌گیرانه: شرکت‌ها متعهد شده‌اند سازوکارهای داخلی برای مدیریت ریسک ایجاد کنند.
  • حسابرسی خارجی (External Audit): همکاری با حسابرسان مستقل برای ارزیابی اثربخشی کنترل‌های داخلی.
  • تشکیل کمیته نظارتی در هیئت مدیره: ایجاد شورایی در سطح مدیریت ارشد هر شرکت برای بررسی گزارش‌های حسابرسان داخلی و خارجی.
  • پذیرش احتمالی قوانین آتی: در متن توافق ذکر شده که در آینده ممکن است این گام‌های داوطلبانه به قوانین و مقررات رسمی تبدیل شوند.

چالش‌ها و دیدگاه‌های تخصصی

در حالی که ترامپ بر رشد اقتصادی و رقابت جهانی با چین تأکید دارد و مخالف ایجاد «نرده‌های حفاظتی» (Guardrails) محدودکننده است، برخی از متخصصان نسبت به این رویکرد ابراز تردید کرده‌اند. رابین جیا، استاد علوم کامپیوتر، اشاره کرد که اتکای بیش از حد به «خود-نظارتی» ریسک‌برانگیز است و با توجه به حوادث اخیر نشت داده‌ها و حملات سایبری، پیامدهای عدم کنترل دقیق بر مدل‌های پیشرفته AI افزایش می‌یابد.

همچنین الکس پاسکال از مرکز برکمن کلاین تأکید کرد که تنها راه کاهش واقعی آسیب‌های AI، ایجاد مسئولیت‌های قانونی سخت‌گیرانه و تغییر دینامیک رقابتی است که باعث تصمیم‌گیری‌های ناایمن توسط توسعه‌دهندگان مدل‌های Frontier می‌شود.

رویکرد استراتژیک و زیرساختی

در کنار این توافق، دولت آمریکا از چت‌بات America.gov رونمایی کرد که هدف آن تسهیل دسترسی شهروندان به خدمات دولتی است. همچنین در این دیدار، موضوع توسعه مراکز داده (Data Centers) و تأثیرات زیست‌محیطی و انرژی آن‌ها مورد بحث قرار گرفت و شرکت‌ها متعهد شدند برای کاهش اعتراضات محلی، حمایت‌های مالی بیشتری از مدارس و کاهش هزینه‌های انرژی در مناطق میزبان ارائه دهند.

به‌روزرسانی (سپتامبر 30, 2026 — The Register)

به‌روزرسانی: دولت ایالات متحده توافق‌نامه‌ای غیرالزام‌آور تحت عنوان «توافق کاخ سفید در مورد ابر‌هوش مصنوعی» (White House Accord on Superintelligence) را با شرکت‌های پیشرو از جمله Meta، Google، OpenAI، Anthropic، Nvidia و XAI امضا کرد. این سند که بر مسئولیت‌های پیشرو (Frontier Responsibilities) تأکید دارد، به شرکت‌ها اجازه می‌دهد تا قوانین نظارتی خود را به صورت داوطلبانه تعیین کنند.

طبق این توافق‌نامه، چهار لایه کنترلی برای مدیریت ریسک‌ها تعریف شده است: نخست، پیاده‌سازی کنترل‌های داخلی برای پایش قابلیت‌های مدل‌ها در حوزه‌های امنیت سایبری (Cybersecurity) و بیولوژیکی؛ دوم، تشکیل تیم‌های نظارت داخلی برای اطمینان از عملکرد صحیح سیستم‌های شناسایی؛ سوم، همکاری با حسابرسان خارجی (External Auditors) برای ارزیابی‌های مستقل و چهارم، تعیین یک کمیته مستقل در هیئت مدیره برای نظارت نهایی و رفع مشکلات شناسایی شده.

علاوه بر این، یک دستور اجرایی (Executive Order) صادر شده است که تمامی آژانس‌های دولتی آمریکا را موظف می‌کند در مکاتبات رسمی، وب‌سایت‌ها و اسناد سیاستی، اصطلاح «هوش مصنوعی» (AI) را با «ابر‌هوش مصنوعی» (Superintelligence یا به اختصار SI) جایگزین کنند. رئیس‌جمهور ترامپ معتقد است قابلیت‌های سیستم‌های پیشرو فراتر از تقلید یا اتوماسیون ساده است و توجیه‌کننده تغییر این تعریف رسمی است.