موفقیت مدیران ارشد فناوری اطلاعات (CIO) امروزه به شدت به نتایج حاصل از هوش مصنوعی وابسته شده است؛ حتی در حالی که بسیاری از رهبران تکنولوژی هنوز در توضیح عملکرد واقعی عامل‌های هوش مصنوعی (AI Agents) خود با چالش روبرو هستند.
بر اساس گزارش جدید Global AI Confessions Report: CIO Edition 2026 از سوی شرکت Dataiku، فشار بر مدیران IT برای دستیابی به نتایج ملموس هوش مصنوعی به اوج خود رسیده است. طبق این مطالعه، ۸۷٪ از مدیران اعلام کرده‌اند که امنیت شغلی آن‌ها مستقیماً با خروجی‌های هوش مصنوعی گره خورده است.
شکاف در نظارت و ریسک‌های عملیاتی
یکی از جدی‌ترین ریسک‌ها، وجود عامل‌هایی است که از نظر فنی درست عمل می‌کنند اما برخلاف اهداف تجاری یا سیاست‌های سازمانی رفتار می‌کنند. یافته‌ها نشان می‌دهد:
- ۷۹٪ از مدیران CIO شاهد نقض سیاست‌ها یا انتظارات توسط عامل‌های هوش مصنوعی بوده‌اند، در حالی که این عامل‌ها همچنان در چارچوب پارامترهای فنی خود فعالیت می‌کردند.
- حدود یک‌سوم این موارد، پیامدهای مالی، مشتری، انطباق (Compliance) یا عملیاتی داشته‌اند.
- ابزارهای مانیتورینگ سنتی (Traditional Monitoring) برای شناسایی این نوع شکست‌ها طراحی نشده‌اند؛ زیرا یک عامل می‌تواند پاسخ‌های سریع و درستی ارائه دهد، اما محتوای پاسخ با اهداف کسب‌وکار همخوانی نداشته باشد.
چالش Shadow AI و سرعت توسعه
سازمان‌ها در شناسایی تمامی عامل‌های فعال در محیط خود با مشکل مواجه هستند. اگرچه ۹۰٪ از مدیران ادعا می‌کنند عامل‌ها را ردیابی می‌کنند، اما ۸۱٪ فاقد نظارت کامل بر عامل‌هایی هستند که خارج از سیستم‌های تایید شده ساخته شده‌اند. همچنین ۸۴٪ از مدیران معتقدند سرعت ساخت عامل‌ها توسط کارکنان، بسیار بیشتر از توانایی حاکمیت (Governance) تیم‌های IT است.
عدم شفافیت در مسئولیت‌پذیری
هنگام بروز تصمیمات آسیب‌زا توسط یک عامل هوش مصنوعی، تقسیم مسئولیت میان تیم‌های امنیت، IT مرکزی، تیم‌های داده و واحدهای تجاری بسیار دشوار است. این عدم شفافیت باعث می‌شود که مدیران فناوری اطلاعات مسئول سیستم‌هایی باشند که ممکن است توانایی مشاهده، ارزیابی یا متوقف کردن آن‌ها را نداشته باشند.
کارشناسان توصیه می‌کنند که تیم‌های IT باید مالک پلتفرم، امنیت و چارچوب‌های حفاظتی (Guardrails) باشند، در حالی که واحدهای تجاری اجازه داشته باشند عامل‌ها را توسعه و اجرا کنند تا از ایجاد گلوگاه (Bottleneck) در فرآیند نوآوری جلوگیری شود.
