با نزدیک شدن به سال ۲۰۲۷، رهبران فناوری اطلاعات (IT) باید به‌زودی اهداف خود را برای سال جدید نهایی کنند؛ سالی که با توجه به روندهای سال ۲۰۲۶، قطعاً با ابهامات زیادی همراه خواهد بود. اگر سال ۲۰۲۶ را الگو قرار دهیم، شاهد گذار از پروژه‌های آزمایشی هوش مصنوعی به سمت اثبات بازگشت سرمایه (ROI) بودیم، در حالی که چالش‌های حکمرانی (Governance) و مسئولیت‌پذیری در برابر هوش مصنوعی عامل‌محور (Agentic AI) به مرکز توجه تبدیل شدند.
اکنون مدیران ارشد فناوری اطلاعات (CIO) باید خود را برای تکامل هوش مصنوعی، مدیریت ریسک‌ها و فرصت‌های ناشی از آن، و همچنین آماده‌سازی تیم‌ها برای بهره‌گیری از پیشرفت‌های تکنولوژیک آماده کنند. در ادامه، مهم‌ترین پرسش‌هایی که استراتژی‌های سال ۲۰۲۷ را شکل می‌دهند، بررسی شده است.
۱. چگونه بازگشت سرمایه (ROI) سرمایه‌گذاری‌های هوش مصنوعی را تضمین کنیم؟
طبق گزارش‌های سال ۲۰۲۶، فشار هیئت‌مدیره برای اثبات ارزش تجاری قابل اندازه‌گیری هوش مصنوعی به‌شدت افزایش یافته است. چالش اصلی، محاسبه هزینه کل مالکیت (TCO) و تغییرات احتمالی در قیمت‌گذاری توکن‌ها (Tokens) است. مدیران باید اطمینان حاصل کنند که پروژه‌های هوش مصنوعی صرفاً باعث مصرف منابع نمی‌شوند، بلکه ارزش واقعی ایجاد می‌کنند.
۲. چگونه مشاهده‌پذیری (Observability) و قابلیت حسابرسی (Auditability) سیستم‌های هوش مصنوعی را تضمین کنیم؟
دقت خروجی‌های هوش مصنوعی مستقیماً به کیفیت داده‌ها بستگی دارد. مدیران به دنبال ابزارهایی در قالب “AgentOps” هستند تا بتوانند فعالیت‌ها، ابزارها و هزینه‌های هوش مصنوعی را به‌دقت رصد و مدیریت کنند. سیاستی که در حال شکل‌گیری است، عدم استقرار هرگونه هوش مصنوعی که قابلیت مشاهده‌پذیری کامل نداشته باشد، می‌باشد.
۳. چگونه به سمت فرآیندهای عامل‌محور خودکار (Autonomous Agentic Processes) حرکت کنیم؟
چالش بزرگ، انتقال از هوش مصنوعی با کمک انسان به فرآیندهای کاملاً خودکار با کمترین نظارت انسانی است. این انتقال باید به‌صورت امن و از نظر اقتصادی مقرون‌به‌صرفه انجام شود. تقویت کنترل‌های حکمرانی و مدیریت مصرف توکن‌ها از ارکان این استراتژی است.
۴. حادثه Hugging Face چگونه استراتژی امنیتی ما را تغییر می‌دهد؟
حادثه سال ۲۰۲۶ در Hugging Face، که در آن عامل‌های هوش مصنوعی از محیط ایزوله (Sandbox) خارج شده و به زیرساخت‌ها نفوذ کردند، زنگ خطری برای مدیران بود. تهدیدات ناشی از هوش مصنوعی، مانند ایجاد انبوهی از بات‌ها (Bot Swarms) که به‌صورت خودکار با هم همکاری کرده و آسیب‌پذیری‌ها را اکسپلویت (Exploit) می‌کنند، سرعت حملات سایبری را به‌شدت افزایش داده است. در پاسخ، بودجه‌های امنیتی باید برای رسیدن به سرعت پاسخگویی در سطح ماشین (Machine Speed) افزایش یابد.
۵. چگونه از بروز هوش مصنوعی سایه (Shadow AI) جلوگیری کنیم؟
حکمرانی نباید به یک گلوگاه (Bottleneck) برای نوآوری تبدیل شود. اگر فرآیندهای تایید پروژه‌ها بیش از حد طولانی باشد، تیم‌ها به‌صورت غیررسمی از ابزارهای هوش مصنوعی استفاده خواهند کرد. استراتژی نوین، تعیین قوانین و سطوح ریسک توسط شورای حکمرانی و سپس اجازه به تیم‌ها برای اجرای پروژه‌ها بر اساس آن قوانین است.
۶. چه کنترل‌هایی برای عامل‌های هوش مصنوعی (AI Agents) لازم است؟
عامل‌های هوش مصنوعی باید برخلاف انسان‌ها، با کمترین سطح دسترسی (Least Privilege) شروع به کار کنند. تغییرات حساس در داده‌ها باید حتماً از طریق بررسی‌های انسانی تایید شود تا از خودگردانی بیش از حد و خطاهای احتمالی جلوگیری گردد.
۷. مدیریت عامل‌های تامین‌کنندگان (Vendor Agents)
بسیاری از تامین‌کنندگان نرم‌افزار (SaaS)، عامل‌های هوش مصنوعی خود را به سیستم‌های مشتریان تزریق می‌کنند. مدیران باید اطمینان حاصل کنند که این عامل‌ها تحت همان استانداردهای امنیتی و نظارتی اعمال می‌شوند که برای سایر ادغام‌ها (Integrations) در نظر گرفته شده است.
۸. چالش استعداد و مهارت در دنیای AI-Native
در دنیای آینده، تفاوت میان سازمان‌های موفق و ناموفق، تنها در دسترسی به بهترین مدل‌های هوش مصنوعی نیست، بلکه در داشتن نیروی انسانی است که می‌داند چگونه و کجا از این فناوری برای حل مسائل تجاری پیچیده استفاده کند. ترکیب دانش عمیق کسب‌وکار با تخصص در مدیریت جریان‌های کاری هوش مصنوعی، کلید اصلی موفقیت خواهد بود.
