در کنفرانس AIPCon شرکت Palantir، مقامات دفاعی بر اهمیت سرعت و مقیاس در تصمیم‌گیری‌های نظامی از طریق هوش مصنوعی (AI) تأکید کردند. با ظهور فناوری‌های تسلیحاتی خودمختار (Autonomous Weapons Technologies) و جنگ الگوریتمی (Algorithmic Warfare)، پرسش‌های جدی در مورد الزامات قانونی و حفاظت از غیرنظامیان در مناطق درگیری مطرح شده است.
تفکیک سیستم‌های هوش مصنوعی در میدان نبرد
قابلیت‌های هوش مصنوعی در عملیات نظامی ایالات متحده به دو دسته اصلی تقسیم می‌شوند:
- سیستم‌های تسلیحاتی خودمختار (AWS): سلاح‌هایی که قادر به انتخاب و اعمال نیرو بر اهداف بدون کنترل مستقیم انسانی هستند. این سیستم‌ها علاوه بر هدف‌گیری، در زمینه‌هایی مانند ناوبری، ردیابی مسیر و شناسایی، مراقبت و شناسایی (ISR) نیز فعالیت می‌کنند.
- سیستم‌های پشتیبان تصمیم‌گیری هوش مصنوعی (AI-DSS): این سیستم‌ها از تکنیک‌های هوش مصنوعی برای جمع‌آوری و تحلیل داده‌ها و ارائه توصیه‌های عملیاتی به تصمیم‌گیرندگان نظامی استفاده می‌کنند.
سیستم Maven Smart System (MSS) و چالش‌های عملیاتی
سیستم MSS به عنوان پرچم‌دار AI-DSS در وزارت دفاع (DoD) شناخته می‌شود. این پلتفرم با یکپارچه‌سازی منابع داده‌ای مختلف، به تحلیلگران اجازه می‌دهد حجم عظیمی از داده‌ها را با سرعتی بسیار بالاتر از انسان پردازش کنند. MSS می‌تواند با یک کلیک، مختصات را از لینک‌های داده تاکتیکی به پلتفرم‌های تسلیحاتی منتقل کرده و چرخه کشتار (Kill Chain) را از مرحله شناسایی تا حمله به شدت کوتاه کند.
با این حال، وجود یک “جعبه سیاه” (Black Box) پیرامون نحوه تصمیم‌گیری این سیستم‌ها و نقش واقعی انسان در آن‌ها، نگرانی‌های جدی ایجاد کرده است. برخی تحلیل‌ها نشان می‌دهند که سیستم‌های AI-DSS ممکن است از دستورالعمل‌های نظارت انسانی (مانند DoD Directive 3000.09) خارج باشند.
شکست‌های سیستمیک و پیامدهای انسانی
گزارش‌ها حائی از آن است که تکیه بیش از حد بر هوش مصنوعی می‌تواند منجر به فجایع انسانی شود. برای مثال، در جریان درگیری‌های اخیر در ایران، استفاده از مدل‌های زبانی بزرگ (LLMs) مانند Claude یا ChatGPT در فرآیند تحلیل، سرعت شناسایی اهداف را از ۱۰۰ مورد در روز به حدود ۵۰۰۰ مورد افزایش داده است. این افزایش سرعت، ریسک خطای اطلاعاتی را به شدت بالا می‌برد.
یک نمونه فاجعه‌بار، حمله به یک مدرسه ابتدایی در شهر میناب بود که بر اساس اطلاعات نادرست در سیستم MSS انجام شد و منجر به کشته شدن تعداد زیادی از غیرنظامیان، از جمله کودکان، گردید. این حادثه نشان‌دهنده ضعف در اعتبارسنجی داده‌های قدیمی و عدم نظارت کافی انسانی در چرخه سریع تصمیم‌گیری است.
نقش بخش خصوصی و مسئولیت‌پذیری
سیستم‌های هدف‌گیری نظامی به شدت به توسعه‌دهندگان بخش خصوصی مانند Palantir و Anduril وابسته هستند. این وابستگی، سوالاتی را در مورد دسترسی پیمانکاران به داده‌های عملیاتی و میزان نظارت بر امنیت زنجیره تأمین (Supply Chain) ایجاد کرده است. همچنین، تعیین مسئولیت در زنجیره فرماندهی زمانی که یک حمله اشتباه توسط هوش مصنوعی انجام می‌شود، همچنان یک چالش حقوقی و اخلاقی بزرگ است.
