با گسترش به‌کارگیری عامل‌های هوش مصنوعی (AI Agents) در سازمان‌ها، یک شکاف امنیتی جدی در زمینه مدیریت دسترسی و تعیین مسئولیت‌پذیری پدید آمده است. اگر یک عامل هوش مصنوعی به داده‌های حساس دسترسی داشته باشد، مدیران فناوری اطلاعات باید دقیقاً بدانند چه کسی این دسترسی را تایید کرده و چه کسی اختیار لغو آن را دارد.
شکاف در مدیریت هویت و دسترسی (IAM)
گزارش‌های اخیر نشان می‌دهند که حدود ۷۱ درصد از کارکنان در شرکت‌های بزرگ، گزارش داده‌اند که عامل‌های هوش مصنوعی در سازمان آن‌ها به داده‌های مشتریان، مالکیت معنوی (IP) یا اطلاعات منابع انسانی دسترسی دارند. با این حال، تنها ۳۵ درصد از آن‌ها اعلام کرده‌اند که این عامل‌ها را تحت فرآیندهای موجود مدیریت هویت و دسترسی (Identity and Access Management) کنترل می‌کنند.
این مسئله فراتر از دسترسی صرف است؛ سوال اصلی اینجاست که چه کسی مجوزهای عامل را تایید کرده و در صورت بروز آسیب، چه کسی مسئول خواهد بود؟ در حال حاضر، مسئولیت‌پذیری در برابر اقدامات این عامل‌ها به طور پراکنده‌ای بین رهبری تیم، کاربر و تیم امنیت تقسیم شده است، در حالی که اکثر متخصصان معتقدند ساختار فعلی مسئولیت‌پذیری باید بازنگری شود.
چالش‌های رویت‌پذیری و انطباق
یکی از بزرگترین موانع، محدودیت ابزارهای فعلی در رویت‌پذیری (Visibility) تبادلات داده‌ای بین ابزارهای هوش مصنوعی و اپلیکیشن‌های SaaS است. این عدم شفافیت، مدیریت ریسک را دشوار می‌کند. همچنین، برای سازمان‌هایی که تحت استانداردهای نظارتی مانند HIPAA فعالیت می‌کنند، این موضوع پیامدهای قانونی جدی دارد؛ چرا که قوانین مستلزم کنترل‌های دسترسی دقیق و قابلیت حسابرسی (Audit) برای تمامی برنامه‌های نرم‌افزاری است.
راهکارهای پیشنهادی برای مدیران امنیت
برای مقابله با این چالش‌ها، سازمان‌ها نباید تنها به خرید ابزارهای جدید تکیه کنند، بلکه باید ابتدا فرآیندهای سازمانی را اصلاح کنند:
- تعیین مالک مشخص (Named Owner): برای هر عامل هوش مصنوعی که به داده‌های حساس دسترسی دارد، یک مالک مشخص تعیین کنید. اگر نمی‌توان مالکیت یک عامل را تعیین کرد، آن عامل نباید در محیط عملیاتی (Production) مستقر شود.
- یکپارچگی با هویت‌های انسانی: عامل‌های هوش مصنوعی باید به عنوان یک دسته مجزا از هویت (Identity) در کنار کاربران انسانی مدیریت شوند و تحت یک سیاست امنیتی و ردپای حسابرسی (Audit Trail) واحد قرار گیرند.
- کنترل‌های مبتنی بر داده: اعمال سیاست‌ها باید در سطح درخواست (Per-request policy) و با توجه به طبقه‌بندی داده‌ها (Data Classification) انجام شود. استفاده از اعتبارنامه‌های کوتاه‌مدت (Short-lived credentials) می‌تواند ریسک نفوذ را کاهش دهد.
- تست قابلیت توقف (Kill Switch): داشتن یک کلید قطع اضطراری (Kill Switch) برای توقف سریع عامل‌ها حیاتی است. سازمان‌ها باید توانایی خود را در لغو دسترسی یک عامل و بازسازی فعالیت‌های انجام شده توسط آن در زمان بحران، به صورت دوره‌ای آزمایش کنند.
در نهایت، حاکمیت بر هوش مصنوعی یک مسئله سازمانی است. پیش از به‌کارگیری ابزارهای جدید، قوانین شفاف درباره تایید دسترسی و مسئولیت‌پذیری باید تدوین شده باشد.
