در جریان نشست‌های هفته سطح بالای مجمع عمومی سازمان ملل (UNGA)، موضوعات مرتبط با فناوری‌های نوظهور و مخاطرات امنیتی هوش مصنوعی (AI) مورد بحث قرار گرفت. در این نشست، مدیران ارشد شرکت‌های پیشرو در حوزه AI، از جمله مدیرعامل OpenAI و Anthropic، در جلسه ویژه‌ای در شورای امنیت شرکت کردند تا در مورد ضرورت نظارت دولتی بر این فناوری هشدار دهند.
ضرورت رگولاتوری و همکاری بین‌المللی
سام آلتمن، مدیرعامل OpenAI، تأکید کرد که تصمیمات حیاتی در مورد توسعه AI نباید تنها توسط آزمایشگاه‌های خصوصی در سان‌فرانسیسکو اتخاذ شود، بلکه باید از طریق فرآیندهای دموکراتیک و با همکاری دولت‌ها شکل بگیرد. وی خاطرنشان کرد که در سطح بین‌المللی، مقابله با چالش‌های این فناوری نیازمند همکاری‌های گسترده است.
هشدار در مورد ریسک‌های وجودی و قابلیت‌های سایبری
داریو آمودئی، مدیرعامل Anthropic، بر ریسک‌های وجودی (Existential Risk) هوش مصنوعی تأکید کرد و هشدار داد که هیچ شرکت یا کشوری به تنهایی قادر به مدیریت این تهدید جهانی نیست. بخش قابل توجهی از این گفتگوها پیرامون قابلیت‌های سایبری (Cyber Capabilities) مدل‌های زبانی بزرگ متمرکز بود؛ چرا که در ماه‌های اخیر، چندین مورد هک سطح بالا (High-profile hacks) باعث ایجاد نگرانی در جامعه امنیتی شده است.
نقد رویکردهای امنیتی آزمایشگاه‌های AI
جرمی فلمینگ، رئیس سابق سازمان GCHQ بریتانیا، در گفتگوهای حاشیه این نشست، حملات سایبری اخیر را نتیجه مستقیم ضعف در رویکردهای امنیتی و ایمنی (Safety and Security) آزمایشگاه‌های توسعه AI دانست. وی استدلال کرد که کشورهای هم‌فکر باید با همکاری بخش خصوصی، استانداردهای مشخصی را برای استفاده از این فناوری تعریف کنند تا از بروز آسیب‌های پیش‌بینی نشده در آینده جلوگیری شود.
