تشخیص انگیزه‌های یک عامل هوش مصنوعی (AI Agent) دشوار است؛ چرا که رفتار این سیستم‌ها در هنگام ارتکاب کلاهبرداری یا اجرای دقیق دستورات یک کاربر انسانی، یکسان به نظر می‌رسد. به همین دلیل، بسیاری از سازمان‌ها علی‌رغم علاقه روزافزون به استفاده از این فناوری، ترافیک مربوط به این عامل‌ها را مسدود کرده‌اند.
محدودیت‌های گسترده در مؤسسات مالی و خرده‌فروشی
بانک‌های بزرگی از جمله Morgan Stanley، Bank of America، JPMorgan و Wells Fargo گزارش کرده‌اند که عامل‌های هوش مصنوعی غیرمجاز به حساب‌های مشتریان دسترسی پیدا کرده‌اند. در پاسخ به این تهدید، این مؤسسات تصمیم گرفته‌اند دسترسی این عامل‌ها را محدود کرده یا آن‌ها را تنها به حالت Read-only (فقط خواندنی) تغییر دهند.
این روند تنها به بانک‌ها محدود نمی‌شود؛ غول خرده‌فروشی Amazon از خرید توسط عامل‌های خرید (Shopping Agents) جلوگیری می‌کند و وب‌سایت‌هایی مانند Yelp و eBay نیز دسترسی عامل‌های غیرمجاز را مسدود کرده‌اند.
چالش‌های امنیتی: نرم‌افزارهای غیرقطعی
گسترش عامل‌های گردش‌کار (Workflow Agents) و ابزارهایی مانند Claude Code، Codex و OpenClaw که قادر به خواندن ایمیل‌ها و انجام وظایف هستند، متخصصان امنیت را با چالشی جدید مواجه کرده است: نرم‌افزارهای غیرقطعی (Non-deterministic). برخلاف نرم‌افزارهای سنتی، رفتار این سیستم‌ها همیشه قابل پیش‌بینی نیست.
بسیاری از زیرساخت‌های امنیتی فعلی برای تعامل با الگوریتم‌های احتمالی (Probabilistic Algorithms) طراحی نشده‌اند. متخصصان امنیت که با کنترل‌های دسترسی و مدیریت هویت (Identity Management) آشنا هستند، اکنون با سیستم‌هایی روبرو شده‌اند که منطق عملکردی متفاوتی دارند.
مشکل احراز هویت و پاسخگویی
در صنایع با نظارت شدید مانند بانکداری، حفاظت از داده‌ها و حریم خصوصی مشتریان حیاتی است. در حالی که بانک‌ها پیش از این از روش‌های سخت‌گیرانه احراز هویت استفاده می‌کردند، عامل‌های هوش مصنوعی می‌توانند این لایه‌ها را دور بزنند. یکی از مشکلات اصلی، عدم امکان پاسخگو کردن (Accountability) یک عامل است؛ زیرا مشخص نیست چه کسی این عامل را مستقر کرده و چه کسی به آن اجازه انجام عملیات خاصی را داده است.
فقدان استانداردهای اعتبارسنجی
در حال حاضر هیچ روش استانداردی برای اعتبارسنجی هویت و مجوزهای یک AI Agent وجود ندارد. برخی از این عامل‌ها هویت کاربر انسانی خود را به ارث می‌برند و از طرف او وارد حساب‌ها می‌شوند، اما راه آسانی برای تأیید این مجوزها یا لغو دسترسی آن‌ها در حین انجام یک تسک وجود ندارد. این موضوع منجر شده است تا بسیاری از شرکت‌ها به Blanket Bans یا مسدودسازی کلی روی آورند.
با این حال، کارشناسان معتقدند مسدودسازی کامل تنها یک راهکار موقت است و فشار بازار بانک‌ها را مجبور خواهد کرد تا روشی امن و عملی برای پذیرش عامل‌های هوش مصنوعی پیدا کنند تا مشتریان خود را از دست ندهند.
