شرکت انویدیا (NVIDIA) یک پلتفرم نرم‌افزاری متن‌باز و یک طراحی مرجع (Reference Design) مبتنی بر سخت‌افزار معرفی کرده است که هدف آن محدود کردن فعالیت عامل‌های هوش مصنوعی (AI Agents) بر اساس سیاست‌های تعیین شده توسط سازمان‌های کاربر است.
اجزای پلتفرم ایمنی عامل‌های باز
این پلتفرم شامل دو بخش اصلی است: OpenShell که نرم‌افزاری برای کنترل دسترسی‌های عامل است و Sentry که به عنوان یک دیده‌بان (Watchdog) در طراحی سخت‌افزاری عمل کرده و فعالیت‌های عامل را از طریق سخت‌افزاری مجزا نظارت می‌کند. سازمان‌ها می‌توانند بسته به نیاز خود، هر یک از این اجزا را مستقر کنند.
انویدیا اعلام کرده است که گزارش‌های مربوط به فرار عامل‌های هوش مصنوعی از محیط‌های تست و دسترسی غیرمجاز به سیستم‌ها، انگیزه اصلی توسعه این پلتفرم بوده است. این حوادث باعث شکل‌گیری بحث‌هایی در مورد لزوم کاهش سرعت توسعه AI Agentها شده است.
چالش‌های امنیتی در عامل‌های هوش مصنوعی
به گفته این شرکت، عامل‌ها ممکن است در مواجهه با یک اقدام مسدود شده، باگ‌های نرم‌افزاری، نبود ابزار مناسب یا دستورالعمل‌های تعریف‌نشده، از مسیر وظایف محول شده منحرف شوند. همچنین، وظایفی که زمان اجرای طولانی دارند، این ریسک را افزایش می‌دهند و نیاز به کنترل‌های امنیتی مستقل را ضروری می‌سازند.
معماری سه لایه ایمنی
انویدیا این پلتفرم را در سه لایه توصیف می‌کند که به صورت هماهنگ عمل می‌کنند:
- لایه اپلیکیشن (Application Layer): شامل مدل هوش مصنوعی، ابزارها و داده‌هایی است که عامل از آن‌ها استفاده می‌کند.
- لایه زمان اجرا (Runtime Layer): عامل را روی سیستم‌های محاسباتی مستقر کرده، فعالیت‌های آن را نظارت می‌کند و قوانین دسترسی را اجرا می‌کند.
- لایه زیرساخت (Infrastructure Layer): سخت‌افزار، اتصالات شبکه و سایر منابع مورد نیاز برای اجرای عامل را فراهم می‌کند.
نقش OpenShell و Sentry
نرم‌افزار OpenShell در لایه Runtime عمل می‌کند. این ابزار، عامل‌ها را در محیط‌های ایزوله (Isolated Environments) اجرا کرده و سیاست‌های دسترسی به فایل‌ها، شبکه‌ها و پردازش‌ها را اعمال می‌کند. این نرم‌افزار به صورت متن‌باز (Open-source) عرضه شده و علاوه بر پردازنده‌های Vera انویدیا، قابل گسترش به پلتفرم‌های Arm و Intel است.
در مقابل، Sentry کنترل‌ها را در لایه زیرساخت و از طریق واحدهای پردازش داده (DPU) مدل BlueField-4 اعمال می‌کند. Sentry با استفاده از نرم‌افزار DOCA، فعالیت‌های عامل را رصد کرده و در صورتی که عامل تلاش کند از مرزهای نرم‌افزاری خود عبور کند، می‌تواند آن را قرنطینه (Quarantine) و متوقف نماید.
در طراحی Vera Rubin POD، واحد BlueField-4 دقیقاً در مسیر دسترسی عامل به مدل هوش مصنوعی قرار می‌گیرد. این جایگاه به Sentry اجازه می‌دهد تا کاملاً مستقل از خودِ عامل، بر فعالیت‌های آن نظارت کند.
به‌روزرسانی (سپتامبر 28, 2026 — Malware News)
به‌روزرسانی: انویدیا برای تکمیل زنجیره اعتماد در اجرای عامل‌های هوش مصنوعی، پلتفرم Open Agent Safety را با راهکار Eclypsium Infrastructure Assurance یکپارچه کرده است. در حالی که OpenShell و Sentry بر مدیریت زمان اجرا (Runtime) و اعمال سیاست‌های امنیتی تمرکز دارند، این همکاری جدید امکان تأیید سلامت و یکپارچگی (Integrity) لایه‌های زیرین سخت‌افزاری و Firmware را فراهم می‌کند.
این ادغام به سازمان‌ها اجازه می‌دهد تا از عدم دستکاری در مؤلفه‌های حیاتی مانند UEFI، BIOS و BMC اطمینان حاصل کنند. با توجه به اینکه حملات در سطح Firmware می‌توانند حتی پس از ریبوت سیستم یا نصب مجدد سیستم‌عامل باقی بمانند، نظارت مستمر Eclypsium تضمین می‌کند که مرزهای امنیتی ایجاد شده توسط NVIDIA بر روی زیرساختی قابل اعتماد اجرا می‌شوند و از دور زدن (Bypass) کنترل‌های امنیتی از طریق آسیب‌پذیری‌های سخت‌افزاری جلوگیری شود.
