در جریان اولین نمایشگاه صنعتی هوش مصنوعی در پارلمان استرالیا، بحث‌های کلیدی پیرامون گذار از «جاه‌طلبی‌های AI» به «پذیرش عملیاتی AI» صورت گرفت. نکته محوری این گفتگوها این بود که چالش اصلی سازمان‌ها در بهره‌برداری از هوش مصنوعی، نه در مدل‌های ریاضی، بلکه در کیفیت و ساختار داده‌های زیربنایی است.
داده‌ها: ستون گمشده در استراتژی‌های AI
تحقیقات نشان می‌دهد زمانی که سیستم‌های AI در سازمان‌ها عملکرد ضعیفی دارند، احتمال اینکه علت آن کیفیت پایین داده‌ها باشد، دو برابر بیشتر از نقص در خود مدل است. برای دستیابی به نتایج کاربردی، AI نیازمند Context (زمینه) است. بسیاری از سازمان‌های دولتی حجم عظیمی از داده‌های بدون ساختار (Unstructured Data) مانند اسناد سیاستی و لاگ‌های امنیتی دارند که به دلیل پراکندگی، به‌سختی قابل جستجو و تحلیل هستند.
رابطه مستقیم بین Visibility و امنیت AI
در پیاده‌سازی AI در خدمات حیاتی مانند مدیریت مرزی، بهداشت و امنیت ملی، قابلیت مشاهده یا Visibility به یک ضرورت تبدیل می‌شود. برای تضمین ایمنی، سازمان‌ها باید بتوانند پاسخ‌های سیستم AI را ردیابی کرده و در صورت بروز خطا، علت آن را تحلیل کنند.
- Logging (ثبت وقایع): مشابه جعبه سیاه هواپیما، لاگ‌های جامع و قابل جستجو تنها راه شناسایی تهدیدات و بررسی حوادث در محیط‌های پیچیده دیجیتال است.
- پایش فعال: بدون دید کامل بر داده‌ها، امکان تامین امنیت سیستم‌های AI وجود ندارد (You cannot secure what you cannot see).
رویکرد حاکمیتی مبتنی بر ردیابی (Traceability)
مدل‌های حاکمیتی مدرن نباید صرفاً بر اساس چک‌لیست‌های انطباقی (Compliance) باشند، بلکه باید بر پایه Data Visibility و Traceability بنا شوند. این یعنی سازمان باید دقیقاً بداند:
- سیستم AI از چه داده‌هایی استفاده می‌کند؟
- منشاء داده‌ها کجاست و چه کسانی به آن‌ها دسترسی دارند؟
- داده‌ها چگونه اعمال شده و کدام مدل برای اتخاذ تصمیمات به کار رفته است؟
در نهایت، موفقیت در پذیرش هوش مصنوعی در مقیاس کلان، نیازمند سرمایه‌گذاری بر روی زیرساخت‌های مورد اعتماد و قابلیت همکاری (Interoperability) داده‌هاست تا AI را به ابزاری کارآمد و ایمن تبدیل کند.
