در جریان نشست اخیر شورای امنیت سازمان ملل، مدیران ارشد سه شرکت پیشرو در حوزه هوش مصنوعی شامل OpenAI، Anthropic و Hugging Face، گزارشی از مخاطرات پیشرو و تاثیرات این فناوری بر امنیت بین‌المللی ارائه کردند.
هشدار در مورد توسعه کنترل‌نشده AI
سام آلتمن (CEO شرکت OpenAI) در این جلسه بر لزوم اتخاذ معیارهای استاندارد (Benchmarks) برای ارزیابی سیستم‌های حفاظتی و سنجش قابلیت‌های هوش مصنوعی تاکید کرد. این درخواست در راستای جنبشی گسترده در صنعت است که خواستار توقف یا کاهش سرعت توسعه مدل‌های پیشرفته برای مدیریت ریسک‌های احتمالی است.
تضاد منافع قدرت‌های جهانی
در حالی که ایالات متحده و چین پیشتازی در توسعه AI دارند، دستیابی به یک توافق جهانی برای تنظیم مقررات (Regulation) دشوار به نظر می‌رسد. رئیس‌جمهور آمریکا صراحتاً هرگونه تلاش برای ایجاد یک «طرح جهانیست» جهت کنترل هوش مصنوعی را رد کرده و آن را مانعی برای رشد اقتصادی و صنعتی توصیف نموده است.
تردید شرکت‌های چینی در همکاری‌های نظارتی
شرکت‌های چینی مانند DeepSeek و Moonshot نیز از شرکت در جلسات توجیهی شورای امنیت خودداری کرده‌اند که نشان‌دهنده رویکرد محتاطانه یا عدم تمایل این بازیگران به پذیرش چارچوب‌های نظارتی بین‌المللی است.
کارشناسان معتقدند نبود شفافیت و عدم تبادل اطلاعات بین دو قطب اصلی فناوری (واشنگتن و پکن)، می‌تواند منجر به افزایش ریسک‌های امنیتی در سطح جهانی شود، زیرا رقابت تسلیحاتی در حوزه AI ممکن است پیشی بگیرد و استانداردهای ایمنی را نادیده بگیرد.
