آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۲/۱۰

Wirken: دروازه‌ای متن‌باز برای مدیریت امن عامل‌های هوش مصنوعی (AI Agents)

Wirken: دروازه‌ای متن‌باز برای مدیریت امن عامل‌های هوش مصنوعی (AI Agents)

پروژه Wirken یک دروازه (Gateway) متن‌باز است که میان اپلیکیشن‌های پیام‌رسان و عامل‌های هوش مصنوعی (AI Agents) قرار می‌گیرد. هدف اصلی این ابزار، پیش‌فرض گرفتن احتمال نفوذ یا سوءاستفاده از یک عامل (Agent) و محدود کردن دامنه دسترسی‌های آن در صورت بروز آسیب‌پذیری است.

تصور کنید یک عامل هوش مصنوعی به چت‌ها، ایمیل‌ها و حساب‌های کاربری شما دسترسی دارد و می‌تواند دستوراتی را اجرا کند. یک دستور مخفی در یک پیام یا سند مشترک می‌تواند باعث شود عامل، اطلاعات حساس را لو داده یا فایل‌ها را تغییر دهد (Prompt Injection). Wirken با اتصال به پلتفرم‌هایی نظیر Signal، WhatsApp، Telegram، Discord، Slack، Teams، Google Chat و iMessage، هر کانال ارتباطی را در یک فرآیند (Process) مجزا اجرا می‌کند که تنها به اعتبارنامه‌های (Credentials) مربوط به همان کانال دسترسی دارد.

مکانیزم‌های امنیتی و کنترل دسترسی

  • مدیریت اعتبارنامه‌ها: اطلاعات حساس در یک گاوصندوق رمزنگاری‌شده (Encrypted Vault) نگهداری می‌شوند و مستقیماً به عامل یا مدل هوش مصنوعی ارائه نمی‌شوند تا از سرقت آن‌ها جلوگیری شود.
  • ایزوله‌سازی (Sandboxing): دستورات Shell در کانتینرهای موقت (Ephemeral Containers) و بدون دسترسی به شبکه اجرا می‌شوند. در صورت عدم در دسترس بودن محیط Sandbox، اجرای دستورات به‌طور خودکار رد می‌شود.
  • سیستم تاییدیه (Approval Workflow): عملیات‌های «فقط خواندنی» آزاد هستند، اما هرگونه تغییر در وضعیت، نصب یا حذف داده‌ها مستلزم تایید کاربر است.
  • حسابرسی (Auditing): تمامی اقدامات پیش از اجرا در یک لاگ زنجیره‌ای (Hash-chained Log) ثبت و امضا می‌شوند تا از تغییر یا دستکاری آن‌ها توسط مهاجم جلوگیری شود.

محدودیت‌ها و ملاحظات فنی

اگرچه Wirken لایه‌های امنیتی قدرتمندی ارائه می‌دهد، اما محدودیت‌هایی نیز دارد. برای مثال، ترافیک خروجی (Outbound Traffic) به‌طور کامل کنترل نمی‌شود و فرآیندهای فرزند (Child Processes) ممکن است اتصالات خود را برقرار کنند. همچنین، امنیت لاگ‌ها به کلیدی بستگی دارد که باید خارج از سیستم نگهداری شود تا از دستکاری توسط مهاجم که به سطح دسترسی کاربر دست یافته، جلوگیری شود. برای فعال‌سازی محیط ایزوله، استفاده از Docker الزامی است.