ابزارهای هوش مصنوعی مسیر نشت داده‌های سازمانی را بسیار هموار کرده‌اند. بسیاری از کاربران بدون نیت تخریبی، اطلاعات حساس را به محیط‌هایی منتقل می‌کنند که تیم‌های امنیتی هیچ دیدی (Visibility) نسبت به آن‌ها ندارند. این رویکرد جدید که می‌توان آن را «سریع حرکت کن و چیزها را بشکن» نامید، به نفع مهاجمان است؛ زیرا اکنون داده‌های سازمانی از طریق شخص ثالث و مجوزهای تفویض‌شده (Delegated Credentials) بیشتری جابجا می‌شوند.
بسیاری از سازمان‌ها تصور می‌کنند با تدوین یک سند سیاست‌گذاری (AI Policy) و آموزش کارکنان، مسئله حل می‌شود. اما در واقعیت، حاکمیت (Governance) به این سادگی عمل نمی‌کند. سیاست‌های مکتوب تنها زمانی اثرگذار هستند که توسط قابلیت رؤیت و کنترل‌های فنی در جریان کاری (Workflow) کاربران پشتیبانی شوند.
درس‌هایی از یک حادثه واقعی: مورد Vercel
در یک حادثه امنیتی، مشخص شد که یک مهاجم توانسته است از طریق یک ابزار AI شخص ثالث به سیستم‌های داخلی Vercel دسترسی پیدا کند. روند حمله به این صورت بود:
- یکی از کارکنان با استفاده از حساب گوگل سازمانی (Google Workspace) در یک محصول AI مصرف‌کننده ثبت‌نام کرد.
- کاربر در هنگام ثبت‌نام، مجوزهای گسترده‌ای را به آن ابزار اعطا کرد.
- مدتی بعد، آن فروشنده مورد حمله قرار گرفت و دچار نشت داده شد.
- مهاجم با استفاده از توکن OAuth سرقت‌شده، حساب Workspace کاربر را تصاحب و به محیط‌های حساس شرکت نفوذ کرد.
در اینجا ریسک اصلی خودِ ابزار AI نبود، بلکه نبودِ کنترل‌های فنی بر نحوه اتصال این ابزارها به حساب‌های سازمانی بود.
چرا سیاست‌های مکتوب در برابر فشار کاری شکست می‌خورند؟
وقتی سیاست‌های امنیتی تبدیل به مانعی برای بهره‌وری شوند، بهره‌وری همیشه پیروز می‌شود. مهندسان نرم‌افزار یا تحلیلگران تحت فشار تحویل پروژه، اغلب الزامات امنیتی مکتوب را نادیده می‌گیرند. پذیرش AI نیز همین الگو را دنبال می‌کند.
راهکار: جایگزینی «دروازه‌ها» با «جاده‌های هموار» و «نرده‌های حفاظتی»
به جای استفاده از دروازه‌های کنترل (Gates) که فقط جلوی کاربر را می‌گیرند و او را به سمت مسیرهای ناامن و پنهان (Shadow AI) سوق می‌دهند، باید از مفهوم جاده‌های هموار (Paved Roads) و نرده‌های حفاظتی (Guardrails) استفاده کرد. در این مدل، مسیر امن به صورت فنی در ابزارهایی که کاربر از قبل استفاده می‌کند، تعبیه می‌شود تا کاربر را به جای مسدود کردن، به سمت جایگزین‌های امن هدایت کند.
گام‌های عملی برای پیاده‌سازی حاکمیت AI
اولین قدم، شناسایی ابزارهای AI غیرمجاز و درک نیازهای کاربرانی است که از آن‌ها استفاده می‌کنند. شما نمی‌توانید چیزی را که نمی‌بینید، مدیریت کنید. برای این منظور باید سه سیگنال اصلی رصد شوند:
- ترافیک شبکه به دامنه‌های مرتبط با AI.
- افزونه‌های مرورگر (Browser Extensions) نصب شده.
- مجوزهای OAuth اعطا شده به اپلیکیشن‌های AI.
سطوح مختلف اعمال کنترل
اشتباه رایج در مدیریت AI، نگاه صفر و یکی (مسدود یا مجاز) است. این رویکرد باعث می‌شود کاربران از دستگاه‌های شخصی خود استفاده کنند که در آنجا هیچ کنترلی وجود ندارد. به جای آن، باید سه سطح تعریف شود:
- اجازه (Allow): برای ابزارهای تأیید شده.
- هشدار (Warn): نمایش پیامی به کاربر در لحظه اقدام برای آموزش و آگاه‌سازی.
- مسدودسازی (Block): برای ابزارهای پرریسک، همراه با توضیح علت و معرفی جایگزین‌های مجاز.
نقاط کنترلی کلیدی
یک استراتژی حاکمیت موفق نیازمند کنترل در سه سطح است:
- مرورگر و نقطه پایانی (Endpoint): برای شناسایی ابزارهای وب‌محور.
- درگاه شبکه (Network Gateway): برای تحلیل ترافیک خروجی.
- مدیریت هویت (Identity/IdP): برای کنترل دسترسی‌ها و توکن‌ها.
در نهایت، تمام این داده‌ها باید در یک نمای عملیاتی واحد (Shared Operational View) تجمیع شوند تا تیم‌های SOC و امنیت بتوانند بدون جابجایی بین کنسول‌های مختلف، سریعاً واکنش نشان دهند.
