شرکت سیسکو (Cisco) از یک موتور تشخیص رفتار متن‌باز با نام Project Quarry رونمایی کرد که هدف آن نظارت بر عامل‌های هوش مصنوعی (AI Agents) و کمک به تیم‌های امنیتی برای جلوگیری از رفتارهای سرکش و مخرب آن‌هاست.
این پروژه با هدف ایجاد یک “زبان مشترک” برای ارزیابی رفتار عامل‌ها طراحی شده است؛ مشابه نقشی که Snort در شناسایی ترافیک مخرب شبکه و YARA در شناسایی بدافزارها ایفا می‌کنند. برخلاف ابزارهای فعلی که عمدتاً بر تعاملات تک‌مرحله‌ای مانند Prompt Injection (تزریق دستور) تمرکز دارند، Project Quarry بر تحلیل کل نشست (Session) و بافتار (Context) اقدامات تمرکز می‌کند.
چالش تشخیص رفتار در هوش مصنوعی
بسیاری از حملات مبتنی بر هوش مصنوعی، نه از طریق یک اقدام واحد، بلکه از طریق زنجیره‌ای از اقدامات انجام می‌شوند. برای مثال، خواندن یک فایل پیکربندی یا ارسال یک درخواست به یک نقطه انتهایی (Endpoint) خارجی ممکن است در ظاهر قانونی به نظر برسد، اما اگر این دو اقدام در یک بازه زمانی مشخص با هم ترکیب شوند، می‌تواند منجر به Data Exfiltration (استخراج داده‌ها) شود.
Project Quarry با بررسی رابطه بین اقدامات مختلف، می‌تواند الگوهای خطرناک را شناسایی کند. برای نمونه، اگر یک عامل ابتدا یک فایل حساس را بخواند و بلافاصله اطلاعات آن را به یک سرور خارجی ارسال کند، این ابزار می‌تواند این زنجیره رفتاری را به عنوان یک تهدید شناسایی و مسدود کند.
قابلیت‌ها و پشتیبانی فنی
- پشتیبانی از گفتگوهای تک‌مرحله‌ای و چندمرحله‌ای در مدل‌های زبانی بزرگ (LLM).
- پایش استفاده از ابزارها (Tool Use) و تعاملات مبتنی بر Model Context Protocol (MCP).
- قابلیت تحلیل ورودی‌های چندوجهی (Multimodal).
- ارائه مجموعه‌ای از قوانین (Rules) آماده و پلاگین‌هایی برای ابزارهایی مانند Claude Code و Codex.
تیم تحقیقاتی سیسکو تأکید کرده‌اند که این ابزار جایگزینی برای نظارت انسانی یا سیستم‌های Chain-of-Thought نیست، اما بستری فراهم می‌کند تا تیم‌های امنیتی بتوانند الگوهای رفتاری را ثبت، آزمایش و در محیط‌های خود اعمال کنند.
