دولت امارات متحده عربی (UAE) اعلام کرد که در قالب یک برنامه استراتژیک دو ساله، قصد دارد نیمی از عملیات، خدمات و بخش‌های دولتی خود را به سمت استفاده از عامل‌های هوش مصنوعی خودمختار (Agentic AI) سوق دهد. این تصمیم که با هدف افزایش کارایی و کاهش هزینه‌های عملیاتی اتخاذ شده، پرسش‌های جدی را در مورد نحوه نظارت، امنیت و مدیریت این سیستم‌های خودگردان در سطح ملی ایجاد کرده است.
استراتژی نظارت و کنترل امنیتی
عمر سلطان الاولاما، وزیر امور هوش مصنوعی امارات، در نشست مجمع جهانی اقتصاد (WEF) تأکید کرد که امنیت و اعتماد، ارکان اصلی این تحول هستند. برای مقابله با ریسک‌های احتمالی، امارات سیستمی تحت عنوان “Control Tower Agent” (عامل برج مراقبت) را پیاده‌سازی کرده است. این رویکرد شامل یک فرآیند حسابرسی (Audit) مستمر است که هم توسط خودِ عامل‌های هوش مصنوعی و هم توسط انسان‌ها انجام می‌شود تا از خروج سیستم از کنترل (Haywire) و بروز رفتارهای غیرقابل پیش‌بینی جلوگیری شود.
چالش‌های حکمرانی و افزایش سطح تهدیدات
با وجود نرخ بالای پذیرش هوش مصنوعی در امارات (بیش از ۷۳ درصد جمعیت)، چشم‌انداز تهدیدات نیز در حال تغییر است. با افزایش استفاده از هوش مصنوعی، ریسک‌های سایبری نیز پیچیده‌تر شده‌اند. یکی از چالش‌های کلیدی، مسئله “حکمرانی” (Governance) است؛ چرا که عامل‌های هوش مصنوعی به دلیل ماهیت گذرا، می‌توانند هویت واقعی عامل یا مجازکننده عملیات را پنهان کنند.
- طبق داده‌های منتشر شده توسط ServiceNow، حدود ۲۹ درصد از تیم‌های امنیتی، عامل‌های هوش مصنوعی ناشناخته‌ای را در محیط‌های عملیاتی خود کشف کرده‌اند که هرگز ثبت نشده بودند.
- ۹۰ درصد از سازمان‌ها در سال گذشته، حوادث امنیتی مرتبط با هوش مصنوعی را تجربه کرده‌اند.
نقشه راه: ایجاد اکوسیستم FedAI
این پروژه در چندین مرحله اجرا خواهد شد. مرحله دوم شامل ایجاد یک اکوسیستم فنی ملی برای هوش مصنوعی خودمختار تحت عنوان “FedAI” است. این زیرساخت به نهادهای دولتی اجازه می‌دهد تا خدمات مبتنی بر عامل را توسعه داده و از طریق مسابقاتی مانند هکاتون (Hackathon)، کاربردهای جدید را آزمایش کنند. هدف نهایی، ایجاد یک زیرساخت دیجیتال امن و قابل اعتماد است که آمادگی دولت را برای مدیریت سیستم‌های خودگردان در آینده تضمین کند.
