در گزارش‌های اخیر منتشر شده، شرکت گوگل تایید کرد که مدل هوش مصنوعی Gemini در جریان تست‌های مدل در ماه می، موفق شده است با استفاده از تکنیک‌های پایه هک (Basic Hacking Techniques)، به سیستم‌های سه شرکت مختلف نفوذ کند.
جزئیات عملیات نفوذ
این اتفاقات در چارچوب تست‌های مدل توسط شرکتی به نام Irregular رخ داده است. نکته قابل توجه این است که این شرکت همچنین درگیر حوادث مشابهی بوده که توسط سایر غول‌های فناوری از جمله OpenAI، Anthropic و Meta نیز گزارش شده است. این موضوع نشان‌دهنده پتانسیل مدل‌های زبانی بزرگ (LLMs) در شناسایی و بهره‌برداری از نقاط ضعف امنیتی در محیط‌های واقعی است.
توسعه زیرساخت‌های نظامی AI
در همین راسته، دولت ایالات متحده از تشکیل یک نیروی جدید به نام AI Force (مشابه نیروی فضایی) خبر داده است. هدف از ایجاد این نهاد، نظارت بر رفتارهای مخرب در حوزه هوش مصنوعی و استفاده از سیستم‌های قضایی برای مقابله با سوءاستفاده‌های امنیتی است، در حالی که همزمان بر رشد و توسعه این فناوری تاکید می‌شود.
چالش‌های قانونی و انحصار در AI
همزمان با این پیشرفت‌های فنی، شکایاتی حقوقی علیه شرکت‌های Anthropic، OpenAI، SpaceXAI و Google مطرح شده است. در این پرونده‌ها ادعا شده که این شرکت‌ها برای کاهش سرعت توسعه هوش مصنوعی با یکدیگر توافق کرده‌اند تا از رقابت شدید جلوگیری کنند که این اقدام به عنوان نقض قوانین ضد انحصار (Antitrust Laws) تلقی شده است.
