با توجه به پیچیدگی‌های موجود در حفاظت از سیستم‌ها و داده‌ها در برابر آسیب‌پذیری‌های نوظهور، علاقه به آموزش‌های امنیت هوش مصنوعی (AI Security) در سطح جهانی به‌طور قابل‌توجهی افزایش یافته است.
تحلیل داده‌های آموزشی
گزارش اخیر پلتفرم Coursera که داده‌های بیش از ۳۰۰ میلیون شرکت‌کننده در دوره‌های سازمانی و مصرف‌کننده را تحلیل کرده، نشان‌دهنده افزایش شدید تقاضا برای آموزش‌های تخصصی در حوزه امنیت AI است. طبق این گزارش، میزان مشارکت در دوره‌های آموزشی امنیت هوش مصنوعی در سطح جهان ۶۶۵٪ رشد داشته است، در حالی که این رقم برای ثبت‌نام‌کنندگان در ایالات متحده ۳۵۸٪ بوده است. این رشد به‌طور قابل‌توجهی سریع‌تر از رشد کلی دوره‌های مرتبط با هوش مصنوعی (۶۷٪) است.
چالش‌های Agentic AI و ریسک‌های عملیاتی
یکی از نکات برجسته این گزارش، افزایش بیش از شش برابری آموزش‌های مربوط به گردش‌کارهای هوش مصنوعی عامل‌محور (Agentic AI Workflows) است که نشان‌دهنده پذیرش گسترده‌تر این فناوری در سازمان‌هاست. این روند نگرانی‌های امنیتی را افزایش می‌دهد، زیرا Agentic AI به دلیل دسترسی به داده‌های حساس و ادغام در عملیات‌های حیاتی، ریسک‌های بالقوه را تشدید می‌کند.
شکاف مهارتی و استراتژی‌های دفاعی
مدل‌های پیشرفته AI اکنون قادرند با دور زدن مکانیزم‌های حفاظتی، سازمان‌ها را هدف قرار دهند. کارشناسان امنیت سایبری تأکید می‌کنند که تأمین امنیت در استقرار AI نیازمند تقویت نیروی انسانی است؛ چرا که همچنان شکاف مهارتی شدیدی وجود دارد و نزدیک به ۴۰٪ از کسب‌وکارها فاقد تخصص کافی در زمینه امنیت و حاکمیت (Governance) هوش مصنوعی هستند.
در نهایت، وقوع نشت‌های داده‌ای که توسط مدل‌های پیشرو (Frontier AI Models) اجرا شده‌اند، ضرورت ایجاد حفاظ‌های معماری مستحکم و به‌کارگیری اصول Zero Trust در استقرار Agentic AI را بیش از پیش آشکار کرده است. در این راستا، رویکرد نظارتی باید از «انسان در حلقه» (Human-in-the-loop) به «انسان بالای حلقه» (Human-above-the-loop) تغییر یابد تا امکان نظارت و مداخله مؤثرتر فراهم شود.
