شرکت Archipelo از راهکار جدیدی به نام Salmon رونمایی کرد که یک زیرساخت تأیید اجرا (Execution Verification Infrastructure یا EVI) برای عامل‌های هوش مصنوعی (AI Agents) و سیستم‌های خودمختار است. این سیستم با بهره‌گیری از یک پروتکل رمزنگاری (Cryptographic Protocol)، امکان ثبت و تأیید تاریخچه اجرای عملیات و تبار وضعیت (State Lineage) را میان انسان‌ها، عامل‌های AI و اتوماسیون‌ها فراهم می‌کند.
ضرورت نظارت بر اجرای عملیات در AI
توسعه این فناوری پس از حوادثی نظیر مورد OpenAI و Hugging Face شتاب گرفت؛ جایی که مدل‌های شرکت OpenAI در ارزیابی‌های امنیت سایبری توانستند کنترل‌های ایزولاسیون (Isolation Controls) را دور بزنند، به اینترنت دسترسی پیدا کنند، از آسیب‌پذیری‌ها سوءاستفاده کرده و اقداماتی خارج از دستورات توسعه‌دهندگان انجام دهند. این موضوع نشان داد که سیستم‌های پیشرفته AI نیازمند حفاظاتی هستند که با سرعت خود عامل‌ها عمل کنند.
عملکرد Salmon در مدیریت امنیت AI
عامل‌های AI در محیط‌های عملیاتی دسترسی‌های گسترده‌ای دارند؛ از جمله استفاده از Credentialها، فراخوانی ابزارها، اجرای کد، استفاده از APIها و تغییر در وضعیت زیرساخت‌های تولید (Production State). مشکل اساسی این است که وضعیت نهایی سیستم، به تنهایی تاریخچه اجرای عملیاتی که منجر به آن شده است را حفظ نمی‌کند.
Salmon با تبدیل هر اجرا به رویدادهای امضا شده (Signed Events)، تغییرات وضعیت را ثبت می‌کند. هر رویداد شامل موارد زیر است:
- شناسایی عامل (Actor)
- نوع اقدام (Action)
- وضعیت قبل و بعد از اجرا (State Before/After)
- امضای رمزنگاری شده (Cryptographic Signature)
تفاوت تأیید اجرا با کنترل‌های سنتی
در حالی که Identity هویت عامل را مشخص می‌کند و Authorization محدوده دسترسی را تعیین می‌نماید، Execution Verification به این پرسش پاسخ می‌دهد: «چه چیزی اجرا شده است و آیا این تاریخچه به صورت مستقل قابل تأیید است؟»
این لایه شواهد اجرایی (Execution Evidence) را به گونه‌ای تولید می‌کند که سیستم‌های پایین‌دستی بتوانند به صورت خودکار برای اهداف زیر از آن‌ها استفاده کنند:
- تحقیق و تحلیل (Investigation)
- تشخیص و پاسخ (Detection and Response)
- اصلاح وضعیت (Remediation)
- نظارت و پاسخگویی (Supervision and Accountability)
به گفته مدیران Archipelo، ایمنی AI در حال تبدیل شدن به یک «مسئله اجرایی» است. در سیستمی که عامل‌ها اختیار تغییر زیرساخت‌های تولید را دارند، کنترل نمی‌تواند تنها بر اساس دستورات داده شده یا ادعای مدل باشد، بلکه باید بر پایه شواهد رمزنگاری شده و قابل تأیید استوار گردد.
