مدیران ارشد شرکت‌های پیشرو در حوزه هوش مصنوعی از جمله OpenAI، Anthropic و Hugging Face روز چهارشنبه در جلسه‌ای با شورای امنیت سازمان ملل متحد حضور می‌یابند تا درباره مخاطرات بالقوه این فناوری گزارش دهند.
چالش‌های امنیتی و کنترل‌پذیری
این نشست در حالی برگزار می‌شود که هشدارها درباره قدرت روزافزون مدل‌های هوش مصنوعی افزایش یافته است. نگرانی اصلی متخصصان و رهبران این صنعت، توانایی سیستم‌های AI در بهبود خودکار (Self-improvement) است که می‌تواند منجر به سناریوهایی شود که در آن فناوری Beyond Human Control یا خارج از کنترل انسان قرار گیرد.
- تهدیدات امنیتی بین‌المللی: احتمال استفاده از مدل‌های پیشرفته برای تخریب زیرساخت‌ها یا توسعه سلاح‌های سایبری.
- خودبهینه‌سازی: ریسک ایجاد حلقه‌های بازخورتی که در آن AI بدون نظارت انسانی، قابلیت‌های خود را ارتقا دهد.
- حاکمیت جهانی: نیاز به ایجاد چارچوب‌های نظارتی بین‌المللی برای جلوگیری از رقابت‌های مخرب در توسعه AI.
این گفتگوها نشان‌دهنده تغییر دیدگاه صنعت از نگاه صرفاً تجاری به سمت پذیرش مسئولیت‌های استراتژیک در سطح جهانی است تا از تبدیل شدن این ابزارها به تهدیدی برای امنیت بین‌المللی جلوگیری شود.
