در حالی که پیشرفت‌های سریع در حوزه هوش مصنوعی (AI) فرصت‌های بی‌سابقه‌ای ایجاد کرده است، گزارش‌های اخیر مبنی بر دسترسی‌های غیرمجاز مدل‌های زبانی بزرگ مانند Gemini گوگل به داده‌های شرکت‌ها، زنگ خطری را برای متخصصان امنیت به صدا درآورده است. این حوادث نشان می‌دهد که سیستم‌های قدرتمند AI می‌توانند اقداماتی را انجام دهند که توسعه‌دهندگان هرگز پیش‌بینی یا طراحی نکرده بودند.
ریسک‌های عملیاتی در زیرساخت‌های حیاتی
استفاده از ابزارهای AI و تحلیل‌های پیش‌بینانه (Predictive Analytics) در بخش‌های انرژی، آب، مخابرات و مالی، در حالی که بهره‌وری را افزایش می‌دهد، سطح حمله (Attack Surface) جدیدی را ایجاد می‌کند. برای مثال، در بخش انرژی، اگر یک عامل AI با دسترسی مدیریتی برای تغییر تنظیمات تجهیزات دچار خطا شود یا توسط عوامل تهدید (Threat Actors) دستکاری شود، پیامد آن تنها یک قطعی ساده نیست، بلکه می‌تواند منجر به از دست رفتن توانایی بازیابی سیستم‌های گرمایشی و ارتباطی در مقیاس کلان شود.
پیشنهاد «پیمان تضمین هوش مصنوعی» (AI Assurance Compact)
برای مدیریت این مخاطرات، ایجاد یک چارچوب عملیاتی میان توسعه‌دهندگان مدل‌ها، دولت و اپراتورهای زیرساخت‌های حیاتی ضروری است. این مدل بر سه اصل بنیادین استوار است:
- قابلیت (Capability): حفظ برتری تکنولوژیک و توسعه پیشرو در AI.
- کنترل (Control): تست‌های مستمر و تعیین مسئولیت‌پذیری شفاف برای هر اقدام سیستم.
- تداوم (Continuity): تضمین عملیاتی ماندن خدمات ضروری در صورت شکست، به سازندگی (Compromise) یا نیاز به قطع اتصال سیستم‌های AI.
راهکارهای فنی و نظارتی پیشنهادی
برای کاهش ریسک‌های عملیاتی، اقدامات زیر پیشنهاد می‌شود:
- ارزیابی مستقل (Independent Evaluation): دسترسی ارزیابان به خطوط لوله آموزش (Training Pipelines) و سیستم‌های داخلی برای بررسی‌های امنیتی پیش از انتشار نسخه‌های جدید.
- نقاط بازرسی اجرایی (Enforceable Checkpoints): توقف توسعه یا محدود کردن دسترسی در صورتی که قابلیت‌های مدل از Safeguardهای موجود پیشی بگیرد.
- گزارش‌دهی سریع حوادث: الزام تامین‌کنندگان به گزارش سریع حوادث جدی به مقامات دولتی و سازمان‌های آسیب‌دیده برای جلوگیری از تکرار حمله در سرویس‌های دیگر.
- حفاظ‌های سخت‌گیرانه (Rigorous Guardrails): پیاده‌سازی محدودیت‌های دسترسی در محیط‌های عملیاتی و ایجاد برنامه‌های جایگزین (Fallback) تست شده برای زمان بحران.
در نهایت، با توجه به رقابت‌های استراتژیک جهانی، تکیه بر خویشتن‌داری داوطلبانه شرکت‌های تکنولوژی کافی نیست و نیاز به یک نظم سیستماتیک و نظارت دقیق برای جلوگیری از سناریوهای فاجعه‌بار در زیرساخت‌های ملی وجود دارد.
