آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۳/۱۰

AWS با معرفی Strands Box به دنبال کنترل رفتارهای پیش‌بینی‌نشده در عامل‌های هوش مصنوعی است

AWS با معرفی Strands Box به دنبال کنترل رفتارهای پیش‌بینی‌نشده در عامل‌های هوش مصنوعی است

شرکت Amazon Web Services (AWS) یک Sandbox متن‌باز برای عامل‌های هوش مصنوعی (AI Agents) معرفی کرده است که به توسعه‌دهندگان اجازه می‌دهد اقدامات این سیستم‌ها را بر اساس رفتارهای قبلی محدود کنند. هدف از این اقدام، کاهش ریسک‌های امنیتی در شرایطی است که سازمان‌ها دسترسی گسترده‌تری به اپلیکیشن‌ها و داده‌ها برای سیستم‌های خودمختار فراهم می‌کنند.

معماری و مکانیزم عملکرد Strands Box

این ابزار که Strands Box نام دارد، ایزولاسیون در سطح سیستم‌عامل (OS-level isolation) را با سیاست‌هایی (Policies) ترکیب می‌کند که تعیین می‌کنند یک Agent مجاز به انجام چه کارهایی است. این ابزار که تحت لایسنس Apache 2.0 منتشر شده، در حال حاضر در مرحله Developer Preview قرار دارد و از سیستم‌عامل macOS 15 و پردازنده‌های Apple Silicon پشتیبانی می‌کند.

Strands Box از یک زبان سیاست‌گذاری متن‌باز به نام Dogwood و موتور ارزیابی آن برای تصمیم‌گیری درباره مجوزهای عملیاتی استفاده می‌کند. این موتور می‌تواند فعالیت‌های ثبت‌شده Agent را در ابزارهای مختلف بررسی کند؛ برای مثال، اگر یک دستور Shell برای خواندن فایل اجرا شود، سیستم می‌تواند بر اساس این رفتار، درخواست‌های شبکه بعدی را محدود کند.

کنترل‌های امنیتی و دسترسی‌ها

این ابزار اقدامات Routed شده از طریق مفسرهای (Interpreters) Shell و Python و همچنین بروکر Model Context Protocol (MCP) را بررسی می‌کند. گیت‌وی شبکه (Network Gateway) آن به صورت پیش‌فرض درخواست‌های خروجی را با سیاست‌های تعریف شده تطبیق داده و می‌تواند اعتبارنامه‌ها (Credentials) را بدون افشای Secrets به Agent، به درخواست‌های تایید شده ضمیمه کند.

رویکرد AWS به دنبال ایجاد کنترل‌هایی مستقل از فریم‌ورک‌های AI Agent است تا وابستگی به مکانیسم‌های مجوز داخلی هر Agent کاهش یابد. از نظر کارشناسان، مزیت اصلی این ابزار، ساده‌سازی اجرای یکپارخته امنیت در فریم‌ورک‌های مختلف است.

محدودیت‌ها و چالش‌های عملیاتی

با وجود قابلیت‌های ذکر شده، برخی محدودیت‌های فنی نیز وجود دارد:

  • پوشش ناقص: فایل‌هایی که مستقیماً از طریق ابزارهای داخلی یک Agent دسترسی پیدا می‌کنند، توسط موتور Dogwood ارزیابی نمی‌شوند و تنها تحت محدودیت‌های سیستم‌عامل هستند.
  • سطح حمله: مفسرهای Shell و Python خارج از Sandbox و به عنوان بخشی از یک فرآیند مورد اعتماد (Trusted Process) اجرا می‌شوند که تعداد اجزای حساس سیستم را افزایش می‌دهد.
  • پیچیدگی سیاست‌ها: تعریف نادرست سیاست‌ها می‌تواند منجر به مسدود شدن اقدامات مشروع Agent یا ایجاد پیچیدگی‌های عملیاتی شود.

در نهایت، متخصصان تأکید می‌کنند که Strands Box نمی‌تواند جایگزین مدیریت دسترسی (IAM)، مانیتورینگ و نظارت انسانی شود. AWS قصد دارد در آینده پشتیبانی از پلتفرم‌هایی مانند Amazon Bedrock AgentCore، Amazon ECS و Kubernetes را به این ابزار اضافه کند.