نهاد ناظر مالی بریتانیا (FCA) اعلام کرده است که با توجه به افزایش استفاده از عامل‌های خودمختار (Autonomous Agents)، شرکت‌های فعال در حوزه خدمات مالی باید شکست‌های جدی هوش مصنوعی و موارد نزدیک به حادثه (Near-misses) را گزارش کنند.
جسیکا روسو، مدیر داده و اطلاعات در FCA، در این باره اظهار داشت که هدف این نهاد، پیشگامی بریتانیا در پذیرش ایمن هوش مصنوعی در بخش مالی است. وی هشدار داد که هوش مصنوعی با مدیریت ضعیف می‌تواند منجر به آسیب به مصرف‌کنندگان، ایجاد آسیب‌پذیری‌های سایبری (Cyber Vulnerabilities) و شکست‌های عملیاتی (Operational Failures) با سرعت و مقیاس بسیار بالا شود.
اولویت امنیت ملی و الگوبرداری از صنعت هوانوردی
وزیر هوش مصنوعی بریتانیا نیز تأکید کرده است که گزارش‌دهی موارد نزدیک به حادثه در حوزه هوش مصنوعی عامل‌محور (Agentic AI)، به یک اولویت امنیت ملی تبدیل شده است. کارشناسان پیشنهاد می‌کنند که نظارت بر هوش مصنوعی می‌تواند از مدل صنعت هوانوردی الگوبرداری کند؛ جایی که گزارش‌دهی حوادثی که منجر به فاجعه نشده‌اند (Near-misses) برای جلوگیری از وقوع حوادث مرگبار در آینده، اجباری است.
- مدیریت ریسک: شناسایی و گزارش حوادث جدی برای کاهش ریسک‌های ناشی از هوش مصنوعی در خدمات حیاتی.
- تست‌های فشار: کمیته خزانه‌داری پارلمان خواستار انجام تست‌های فشار (Stress Tests) برای اطمینان از آمادگی کسب‌وکارها در برابر شوک‌های بازار ناشی از هوش مصنوعی شده است.
- مسئولیت‌پذیری: تأکید بر ایجاد خطوط شفاف مسئولیت در زمانی که سیستم‌های هوش مصنوعی منجر به نتایج زیان‌بار یا ناعادلانه می‌شوند.
در حال حاضر، دولت بریتانیا در حال بررسی اصلاحاتی در Bill مربوط به تاب‌آوری و امنیت سایبری (Cyber Security and Resilience Bill) است تا تدابیر اختصاصی برای هوش مصنوعی را در دستور کار قرار دهد.
