با گسترش استفاده از هوش مصنوعی در مؤسسات مالی، گذار از AI به عنوان یک «ابزار» به سمت «عامل‌های خودمختار» (Autonomous Agents)، چالش‌های جدیدی را در حوزه تطبیق (Compliance) ایجاد کرده است. در حالی که اکثر شرکت‌های مالی از AI استفاده می‌کنند، درصد کمی از کاربردها به‌طور کامل خودمختار هستند، اما با رشد این اتوماسیون، مفروضات سنتی درباره مسئولیت‌پذیری در حال تغییر است.
مشکل اصلی: شکاف پاسخگویی (Accountability Gap)
در فرآیندهای بانکی سنتی مانند بررسی‌های لازم (Due Diligence)، نظارت بر تراکنش‌ها و غربالگری تحریم‌ها، همواره یک شخص یا سازمان دستوردهنده وجود دارد. اما زمانی که یک نرم‌افزار یا AI Agent دستورات را صادر می‌کند، حتی اگر بانک مشتری خود را به‌طور کامل بشناسد، ممکن است دقیقاً نداند چه کسی یا چه چیزی باعث وقوع یک اقدام خاص شده است.
این وضعیت منجر به پدیده‌ای به نام «اقدام غیرقابل انتساب» (Unattributable Action) می‌شود؛ یعنی دستوراتی که نمی‌توان آن‌ها را به یک طرف مسئول نسبت داد. این ریسک زمانی افزایش می‌یابد که عامل‌ها (Agents) به‌گونه‌ای عمل کنند که از کاربران انسانی غیرقابل تشخیص باشند و بتوانند به‌طور مستقل تحقیق کرده، تصمیم بگیرند و دارایی‌ها را جابه‌جا کنند.
چارچوب Know Your Agent (KYA) چیست؟
برای رفع این مشکل، مفهوم KYA یا «شناخت عامل» به عنوان یک لایه پاسخگویی برای نرم‌افزارها پیشنهاد شده است. در حالی که KYC (Know Your Customer) بر شناسایی هویت مشتری تمرکز دارد، KYA بر شناسایی و احراز هویت بات یا عاملی تمرکز می‌کند که به جای مشتری عمل می‌کند.
این چارچوب بر چهار رکن اصلی استوار است که باید پیوستگی آن‌ها حفظ شود: عامل (Agent)، اصیل (Principal) که عامل برای او کار می‌کند، تأمین‌کننده (Provider) که نرم‌افزار را اجرا می‌کند و پذیرنده (Acceptor) مانند بانک یا درگاه پرداخت.
لایه‌های کنترلی و تفکیک هوش از کنترل
در مدل KYA، پنج لایه کنترلی برای مدیریت عامل‌ها تعریف شده است:
- هویت و منشأ (Identity and Provenance)
- اتصال به یک شخص پاسخگو (Accountable Principal)
- حوزه اختیارات و مجوزها (Mandate and Permissions)
- تفویض اختیار و نظارت (Delegation and Monitoring)
- ابطال و قابلیت حسابرسی (Revocation and Auditability)
یک اصل کلیدی در این تحلیل، تفکیک «هوش» از «کنترل» است. بر این اساس، AI Agent می‌تواند تحلیل کند، اولویت‌بندی نماید و پیشنهاد دهد، اما در موارد حساس و تعیین‌کننده، تصمیم نهایی باید بر اساس قوانین ثابت (Fixed Rules) و تحت نظارت انسان یا مؤسسه باشد.
پیاده‌سازی در صنعت
برخی نمونه‌ها مانند Agent OS در بایننس یا Agent Pay در مسترکارت، تلاش می‌کنند این شکاف را پر کنند. در این سیستم‌ها، عامل‌ها باید پیش از انجام تراکنش ثبت و تأیید شوند و محدودیتی برای فعالیت‌های آن‌ها تعریف گردد. این رویکرد باعث می‌شود که یک «تراکنش اشتباه» توسط یک «عامل شناخته‌شده» در چارچوب یک «اختیار مشخص»، به مشکلی تبدیل شود که تیم‌های Compliance پیش از این تجربه مدیریت آن را داشته‌اند.
در نهایت، رشد سیستم‌های مالی مبتنی بر عامل (Agentic Finance) به توانایی مؤسسات در پاسخ به سه سؤال کلیدی بستگی دارد: کدام عامل عمل کرده است؟ برای چه کسی؟ و با چه اختیاری؟
