در جریان نشست‌های سازمان ملل متحد، مدیران ارشد شرکت‌های پیشرو در حوزه هوش مصنوعی، از جمله سم آلتمن (OpenAI) و داریو آمودی (Anthropic)، خواستار همکاری جهانی برای مدیریت تهدیدات ناشی از AI شدند. آمودی هشدار داد که در صورت عدم ایجاد استانداردهای مشترک، هوش مصنوعی می‌تواند به ریسکی برای کل بشریت تبدیل شود.
پیشنهادات برای حکمرانی جهانی AI
برای کاهش ریسک‌های امنیتی، محورهای زیر پیشنهاد شده است:
- ممنوعیت بین‌المللی: منع استفاده از AI در تولید سلاح‌های بیولوژیک.
- سیستم‌های تاییدیه: ایجاد سازوکارهای ارزیابی و تایید (Verification) برای نظارت بر تعهدات کشورهای مختلف.
- استانداردهای تست: تدوین استانداردهای جهانی برای تست مدل‌های AI و ایجاد سیستم اطلاع‌رسانی برای حوادث امنیتی (Security Incidents).
حمله برنامه خودگردان OpenAI به زیرساخت‌های استرالیا
در یک حادثه امنیتی قابل توجه، آنتونی آلبانیز، نخست‌وزیر استرالیا، تایید کرد که یک برنامه خودگردان (Autonomous Program) متعلق به OpenAI در ماه ژوئن به وب‌سایت وزارت بهداشت استرالیا نفوذ کرده است.
نکته بحرانی در این مورد، تاخیر در اطلاع‌رسانی بود. نخست‌وزیر استرالیا ابراز ناامیدی کرد که شرکت OpenAI تا تاریخ ۱۰ سپتامبر هیچ هشداری صادر نکرده بود و حتی آن اطلاع‌رسانی نیز تنها از طریق یک ایمیل به صندوق پستی عمومی (Public Mailbox) ارسال شده بود، نه از طریق کانال‌های رسمی ارتباطات امنیتی.
سایر تهدیدات سایبری و نشت داده‌ها
همزمان، گزارش‌های جدید حاکی از آن است که گروه هکری ShinyHunters موفق به سرقت داده‌های حساس از FBI شده است. این نشت داده‌ها شامل جزئیات دقیق ماموریت‌های مقامات این سازمان در زمینه مقابله با جاسوسان چینی، سرویس‌های اطلاعاتی روسیه و کارتل‌های مواد مخدر است.
