آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۲/۱۰

مدیریت Shadow AI: شناسایی و حذف خودکار اپلیکیشن‌های هوش مصنوعی غیرمجاز در نقاط انتهایی

مدیریت Shadow AI: شناسایی و حذف خودکار اپلیکیشن‌های هوش مصنوعی غیرمجاز در نقاط انتهایی

شرکت Portnox قابلیت‌های جدیدی را برای شناسایی اپلیکیشن‌ها و Agentهای هوش مصنوعی غیرمجاز در دستگاه‌های تحت مدیریت معرفی کرده است. این سیستم می‌تواند به‌صورت خودکار سیاست‌های امنیتی (Security Policy) را اعمال کرده و اپلیکیشن‌های تایید نشده یا پرریسک را در لحظه شناسایی، محدود، قرنطینه یا حذف کند.

مبارزه با پدیده Shadow AI

این قابلیت به‌طور خاص برای مقابله با Shadow AI طراحی شده است؛ یعنی استفاده از اپلیکیشن‌های هوش مصنوعی مولد (Generative AI) که به‌طور فزاینده‌ای به عنوان Agentهای خودمختار عمل می‌کنند. این ابزارها می‌توانند با همان سطح دسترسی کاربر وارد شده به سیستم، به فایل‌های محلی، منابع راه دور و داده‌های سازمانی دسترسی پیدا کنند. با توجه به اینکه سرعت گسترش این ابزارها بیشتر از توان رصد سازمان‌هاست، این راهکار دید لازم و کنترل خودکار را برای تیم‌های IT و امنیت فراهم می‌کند.

پوشش گسترده و کنترل خودکار

تیم‌های امنیتی اکنون می‌توانند تعیین کنند کدام اپلیکیشن‌های Generative AI مجاز یا ممنوع هستند و سپس ریسک دستگاه را بر اساس نرم‌افزارهای نصب شده ارزیابی کنند. این سیستم قادر به شناسایی ابزارهای پیشرویی نظیر موارد زیر است:

  • ChatGPT, Microsoft Copilot, Claude, Google Gemini
  • Perplexity, DeepSeek, Cursor, Codex, Ollama
  • ده‌ها دستیار هوش مصنوعی، Agentهای کدنویسی، مدل‌های محلی (Local Models) و ابزارهای تولید تصویر

در صورتی که دستگاهی سیاست‌های تعریف شده را نقض کند، سیستم می‌تواند بر اساس قوانین دسترسی سازمان، اقدامات اصلاحی (Remediation) یا اجرایی را به‌طور خودکار فعال کند.

از شناسایی تا واکنش سریع

در محیط‌های سازمانی، کارکنان اغلب ابزارهای کدنویسی یا مدل‌های محلی را بدون طی کردن مراحل تایید یا خرید متمرکز نصب می‌کنند که این امر منجر به کاهش Visibility تیم‌های امنیتی می‌شود. Portnox با گسترش کنترل‌های دسترسی و تشخیص وضعیت (Posture Detection) به این کلاس از اپلیکیشن‌ها، امکان مدیریت Shadow AI را فراهم کرده است.

واکنش‌های سیستم بسته به شدت ریسک می‌تواند شامل موارد زیر باشد:

  • مسدود کردن دسترسی دستگاه به شبکه (Blocking)
  • محدود کردن دسترسی به منابع خاص
  • حذف کامل اپلیکیشن در سیستم‌عامل‌های Windows و macOS

این قابلیت در کنار سیستم Kill Switch در سطح شبکه قرار می‌گیرد تا سازمان‌ها هم در مرحله شناسایی اپلیکیشن‌های غیرمجاز در Endpointها و هم در مرحله ارزیابی رفتاری Agentهای فعال در محیط، کنترل کاملی بر ریسک‌های هوش مصنوعی داشته باشند.