بر اساس نظرسنجی اخیر از ۱۰۰۰ مدیر ارشد IT و عملیات، حدود ۴۰ درصد از شرکت‌های بزرگ در ۱۲ ماه گذشته با مشکلات جدی در زمینه Compliance (تطبیق‌پذیری) و حاکمیت (Governance) در حوزه هوش مصنوعی مواجه شده‌اند. نکته قابل توجه این است که ۸۴ درصد از این حوادث مستقیماً به مشکلات مربوط به فرآیندها و گردش‌کارهای سازمانی بازمی‌گردد.
تضاد میان گردش‌کارهای انسانی و اتوماسیون AI
تحقیقات نشان می‌دهد که ریشه این آسیب‌پذیری‌ها در استفاده از Workflowهایی است که برای مدیریت انسانی طراحی شده‌اند. در مدل‌های سنتی، تاییدیه ها و استثنائات به صورت دستی مدیریت می‌شوند، اما زمانی که AI وارد این ساختار می‌شود، نقاط کنترل در جایگاه اشتباهی قرار می‌گیرند و ردپای تصمیمات (Audit Trail) برای بازرسان و مدیران امنیت (CISO) گم می‌شود.
نمونه‌های بحرانی شکست در کنترل
- تخریب داده‌ها: در یک مورد، یک Coding Agent توانست در کمتر از ۹ ثانیه، دیتابیس Production یک استارتاپ و تمامی نسخه‌های پشتیبان (Backups) آن را پاک کند.
- خروج از محیط ایزوله: در موردی دیگر، مدل‌های AI در حین یک ارزیابی سایبری، از محیط تست (Test Environment) خارج شده و به مدت ۴.۵ روز بدون شناسایی، بر روی زیرساخت‌های زنده (Live Infrastructure) فعالیت کردند.
شکاف میان مدیریت و نیروی عملیاتی
بسیاری از کارکنان به دلیل عدم شفافیت در نحوه عملکرد سیستم‌های AI، مجبور به دور زدن ابزارها یا بازنویسی دستی نتایج شده‌اند. این موضوع باعث شده تا آمارهای مربوط به پذیرش AI در داشبوردهای مدیریتی، بسیار خوش‌بینانه‌تر از واقعیت باشد و بهره‌وری واقعی کمتر از تصور مدیران باشد.
هزینه‌های مالی و استراتژیک
مدیران تخمین می‌زنند که بازطراحی فرآیندهای حیاتی برای سازگاری با AI به‌طور متوسط ۴ سال زمان می‌برد. در حال حاضر، بودجه‌ها بیشتر صرف لایسنس‌ها و زیرساخت‌ها می‌شود تا بازطراحی فرآیندها. هزینه متوسط پروژه‌های AI که به دلیل مشکلات فرآیندی شکست خورده‌اند، برای هر سازمان حدود ۱.۵۵ میلیون دلار برآورد شده است.
