گزارش‌های اخیر حاکی از آن است که یک گزارش اطلاعاتی تولید شده توسط هوش مصنوعی (AI)، منجر به شناسایی نادرست محموله یک کشتی چینی و نزدیک شدن به یک عملیات نظامی آمریکا در خاورمیانه شده است. در این حادثه، سیستم AI به اشتباه ادعا کرد که یک شناور چینی در حال حمل قطعات مربوط به برنامه تسلیحات هسته‌ای است.
روند وقوع حادثه و واکنش نظامی
به محض انتشار این گزارش در شبکه نظامی آمریکا، وضعیت آماده‌باش اعلام شد. تیم‌های عملیاتی مسلح برایe boarding (سوار شدن به کشتی) آماده شدند و هواپیماهای نظامی برای رهگیری شناور مذکور در هوا به پرواز درآمدند. با این حال، پس از بررسی منابع، مشخص شد که گزارش مذکور کاملاً نادرست بوده و تنها به دلیل توهمات هوش مصنوعی (AI Hallucinations) ایجاد شده است.
تحلیل فنی شکست در فرآیند تایید
این incident زمانی رخ داد که یک تحلیلگر در فرماندهی عملیات ویژه پاسفیک (Special Operations Command Pacific)، از یک Chatbot برای تحلیل لیست محموله کشتی استفاده کرد. سیستم مورد نظر، اطلاعات منابع باز (OSINT) را با داده‌های طبقه‌بندی شده سیگنالی (SIGINT) ترکیب کرد و به یک نتیجه غلط رسید. تحلیلگر سپس مجدداً از AI برای تبدیل این نتیجه به یک گزارش رسمی استفاده کرد؛ در واقع دو مرحله پردازش توسط AI بدون هیچ‌گونه تایید انسانی (Human Verification) در میان آن‌ها صورت گرفت.
چالش‌های استراتژیک و ساختاری
- اعتماد بیش از حد به ابزارها: فشار برای افزایش سرعت تحلیل، باعث شده تا تحلیلگران جوان‌تر تمایل بیشتری به پذیرش پاسخ‌های AI بدون بررسی دقیق داشته باشند.
- فقدان استانداردهای یکپارچه: بخش‌های مختلف نظامی از ابزارهای متفاوت با قوانین و چک‌لیست‌های امنیتی گوناگون استفاده می‌کنند و سیستمی مشترک برای اعتبارسنجی خروجی‌های AI وجود ندارد.
- استراتژی شتاب‌دهنده: استراتژی‌های جدید پنتاگون بر گسترش دسترسی میلیون‌ها پرسنل به مدل‌های AI تاکید دارد، اما برنامه‌ای برای مدیریت مواردی که مدل با «اطمینان کامل اما اشتباه» پاسخ می‌دهد، پیش‌بینی نکرده است.
این مورد نشان می‌دهد که سرعت در عملیات نظامی اگر با مکانیزم‌های کنترلی دقیق همراه نباشد، می‌تواند منجر به تصمیمات مرگبار و تشدید تنش‌های بین‌المللی شود. خطر اصلی نه در خودکار شدن کامل سیستم‌ها، بلکه در رسیدن پاسخ‌های نادرست اما متقاعدکننده به تصمیم‌گیران ارشد است.
