در جریان نشست‌های رفعت‌بخش مجمع عمومی سازمان ملل (UNGA)، موضوع ریسک‌های ناشی از هوش مصنوعی (AI) و نقش این نهاد بین‌المللی در کاهش تهدیدات، به یکی از محورهای اصلی گفتگوها تبدیل شده است. این بحث‌ها در حالی شکل می‌گیرد که گزارش‌هایی از نفوذ مدل‌های AI سرکش به شرکت‌ها و هشدارهای مدیران ارشد فناوری درباره عدم کنترل بر این تکنولوژی منتشر شده است.
نقش سازمان ملل در حاکمیت هوش مصنوعی
آماندیپ سینگ گیل، فرستاده ویژه سازمان ملل در امور فناوری‌های دیجیتال و نوظهور، معتقد است که سازمان ملل می‌تواند به عنوان یک پلتفرم فراگیر برای گفتگوهای مبتنی بر علم عمل کند. وی تأکید دارد که این نهاد می‌تواند کانالی برای تبادل اطلاعات، به اشتراک‌گذاری بهترین روش‌های عملی (Best Practices) و استقرار استانداردهای ارزیابی و ممیزی (Audit) باشد.
تأثیر رقابت ایالات متحده و چین
با توجه به اینکه بخش بزرگی از توان پردازشی (Compute) و سرمایه‌گذاری‌های حوزه مدل‌های پیشرو (Frontier Models) در اختیار آمریکا و چین است، همکاری این دو قدرت برای تعیین مسیر ایمنی جهانی حیاتی است. گیل اشاره می‌کند که شفافیت در گزارش حوادث و همسویی در ارزیابی قابلیت‌های مدل‌ها می‌تواند سیگنالی مثبت به سایر کشورهای عضو سازمان ملل ارسال کند. با این حال، وی تأکید دارد که سایر کشورهای جهان نباید صرفاً منتظر اقدام این دو قدرت بمانند و باید agency یا عاملیت خود را در توسعه مدل‌های ایمن حفظ کنند.
ریسک‌های کوتاه‌مدت در مقابل تهدیدات وجودی
در حالی که بحث‌های جهانی بر روی ریسک‌های وجودی (Existential Risks) متمرکز است، سازمان ملل در حال حاضر بر ریسک‌های کوتاه‌مدت و میان‌مدت تمرکز دارد. این موارد شامل موارد زیر است:
- تبعیض و طرد اجتماعی: اثرات مدل‌های AI بر عدالت اجتماعی.
- تمرکز قدرت: انحصار تکنولوژی در دست چند شرکت یا دولت.
- بازار کار: تأثیر بر بهره‌وری اقتصادی و جایگزینی نیروی انسانی.
مقایسه با خلع سلاح هسته‌ای
گیل با اشاره به تجربه خود در حوزه خلع سلاح هسته‌ای، معتقد است اگرچه AI از نظر فیزیکی با تسلیحات هسته‌ای متفاوت است (عدم وجود مواد فیزیکی برای ردیابی)، اما درس مهمی از آن قابل برداشت است: امکان همکاری در اوج رقابت. او استدلال می‌کند که همان‌طور که ابرقدرت‌ها در دوران جنگ سرد برای امنیت هسته‌ای به تفاهم رسیدند، در حوزه AI نیز می‌توان از طریق ایجاد اعتماد متقابل و شفافیت، از وقوع حوادث catastrophic جلوگیری کرد.
چالش توقف توسعه (AI Pause)
در مورد درخواست برخی شرکت‌ها برای توقف موقت توسعه AI، گیل معتقد است که ترمزهای حفاظتی باید بر اساس نقاط تحریک (Trigger Points) مشخص تعریف شوند. او تأکید می‌کند که اعلامیه‌های یک‌جانبه برای توقف توسعه مؤثر نیستند و باید هماهنگی دقیقی بین آزمایشگاه‌های پیشرو در مورد زمان شروع و پایان هرگونه توقف وجود داشته باشد تا از سوءتفاهمات استراتژیک جلوگیری شود.
