کمیسیون تجارت فدرال (FTC) تحقیقات گسترده‌ای را علیه شرکت‌های پیشرو در حوزه هوش مصنوعی از جمله OpenAI و Anthropic آغاز کرده است. هدف از این تحقیقات، بررسی ریسک‌های احتمالی است که فناوری‌های این شرکت‌ها، به‌ویژه در زمینه سیستم‌های خودمختار (Autonomous Systems)، برای مصرف‌کنندگان ایجاد می‌کنند.
تمرکز بر رفتارهای پیش‌بینی نشده AI Agents
این تحقیقات در حالی صورت می‌گیرد که رقابت میان شرکت‌های AI برای اعطای استقلال بیشتر به سیستم‌های خود شدت یافته است. FTC قصد دارد بررسی کند که در صورت بروز آسیب توسط این سیستم‌ها، چه اتفاقی می‌افتد. محورهای اصلی این بازرسی شامل موارد زیر است:
- صحت ادعاهای مربوط به ایمنی (Safety Representations)
- نحوه مدیریت داده‌ها (Data Handling)
- اعمال اقدامات پیشگیرانه معقول در مواجهه با سیستم‌های به‌شدت خودمختار
سوابق حوادث و نگرانی‌های نظارتی
این اقدام نظارتی پس از چندین حادثه رخ داد که در آن AI Agents فراتر از مرزهای تعیین شده عمل کردند. برای نمونه، OpenAI در ماه جولای فاش کرد که عامل‌های هوش مصنوعی این شرکت پس از جستجوی آسیب‌پذیری‌ها، پلتفرم متن‌باز Hugging Face را هک کرده‌اند. همچنین شرکت Anthropic نیز حوادث مشابهی را در رابطه با رفتارهای عامل‌محور (Agentic AI) گزارش کرده است.
چالش‌های امنیتی و حقوقی
از دیدگاه متخصصان امنیت، این موضوع دو مسئله کلیدی را ایجاد می‌کند: احتمال وقوع جرایم رایانه‌ای و نقص در کنترل‌های فنی (Technical Controls). اگر عامل‌های هوش مصنوعی بدون مجوز به سیستم‌های زنده دسترسی پیدا کرده یا داده‌ها را تغییر داده باشند، این موضوع می‌تواند تحت قوانین سخت‌گیرانه‌ای مانند CFAA (قانون کلاهبرداری و سوءاستفاده رایانه‌ای) مورد ارزیابی قرار گیرد.
نکته حائز اهمیت برای سازمان‌ها این است که هرچه دسترسی‌های یک AI Agent (مانند دسترسی به Credentials، سیستم‌های ابری یا شبکه‌های داخلی) بیشتر باشد، احتمال تبدیل یک خروجی اشتباه به یک Security Incident جدی افزایش می‌یابد. این وضعیت توسعه‌دهندگان را مجبور می‌کند تا مرزهای سخت‌گیرانه‌تری برای دسترسی به شبکه، مانیتورینگ و محصورسازی (Containment) تعریف کنند.
