سنجای بری (Sanjay Beri)، هم‌بنیان‌گذار و مدیرعامل شرکت Netskope، هشدار داد که کسب‌وکارها نباید در مدیریت ریسک‌های مرتبط با رفتارهای غیرقابل‌پیش‌بینی عوامل هوش مصنوعی (AI Agents)، تنها به رگولاتورها یا ارائه‌دهندگان پلتفرم‌های AI تکیه کنند.
ضرورت ایجاد مکانیزم‌های حفاظتی داخلی
بری در گفتگو با پادکست Security or Else! تأکید کرد که سازمان‌ها باید به صورت پیش‌دستانه برای ایمن‌سازی عوامل هوش مصنوعی خود اقدام کنند؛ چرا که هیچ نهاد خارجی نمی‌تواند به طور کامل در برابر احتمال «سرکش شدن» AI یا تولید محتوای مضر قانون‌گذاری کند. به باور او، مسئولیت جلوگیری از رفتارهای غیرمنتظره‌ای که می‌تواند منجر به نشت داده‌ها (Data Breaches) یا به خطر افتادن سیستم‌ها شود، بر عهده خود سازمان‌ها و همکاری آن‌ها با تامین‌کنندگان و شرکای تجاری است.
راهکارهای پیشنهادی برای کنترل AI
این مدیر ارشد برای مدیریت این تهدیدات، موارد زیر را پیشنهاد داده است:
- شناسایی ابزارهای تایید نشده: شناسایی تمامی ابزارهای AI که بدون مجوز سازمان در شبکه استفاده می‌شوند (Shadow AI).
- پیاده‌سازی کنترل‌های آنی: ایجاد مکانیزم‌هایی برای نظارت و کنترل لحظه‌ای بر فعالیت‌های مدل‌ها.
- استقرار حاکمیت داده (Governance): تدوین سیاست‌های شفاف برای استفاده از هوش مصنوعی.
بری مفهوم «کلید قطع اضطراری» (Kill Switch) را برای AI مطرح کرد که می‌تواند شامل ابطال هویت (Identity Revocation) یک عامل یا توقف کامل فعالیت‌های آن در صورت بروز رفتار غیرعادی باشد. وی همچنین توصیه کرد که سازمان‌ها رویکرد اعتماد صفر (Zero Trust) را در مواجهه با مدل‌های هوش مصنوعی به کار بگیرند و هرگز امنیت ذاتی این پلتفرم‌ها را فرض نکنند.
