کاخ سفید دسترسی بریتانیا به مدل‌های پیشرفته هوش مصنوعی (AI Models) را برای انجام تست‌های امنیتی پیش از انتشار رسمی بازگرداند. این اقدام به پژوهشگران فرصت می‌دهد تا پیش از به‌کارگیری گسترده این ابزارها در کسب‌وکارها، ریسک‌های امنیتی احتمالی را شناسایی کنند.
تغییر در سیاست‌های دسترسی به مدل‌ها
بر اساس گزارش‌های منتشر شده، در ماه سپتامبر، کاخ سفید از شرکت‌های پیشرو مانند OpenAI و Anthropic خواسته بود تا اشتراک‌گذاری مدل‌های جدید با مؤسسه امنیت هوش مصنوعی بریتانیا (AISI) را متوقف کنند. این تصمیم منجر به محدود شدن دسترسی مقامات بریتانیایی به مدل Claude Mythos 5.1 شده بود. با این حال، پس از رایزنی‌های دیپلماتیک، دسترسی به مدل‌های شرکت‌های Anthropic، Google DeepMind و OpenAI مجدداً برقرار شده است.
چالش‌های نظارتی و مدیریت ریسک AI
دولت‌های مختلف در حال حاضر با چالش ارزیابی سیستم‌های هوش مصنوعی که به‌سرعت در حال تکامل هستند، بدون ایجاد محدودیت‌های غیرضروری در توسعه آن‌ها مواجه‌اند. در حالی که رویکرد ایالات متحده بیشتر بر تشویق توسعه متمرکز است، بریتانیا از طریق AISI تلاش می‌کند نقش فعال‌تری در نظارت بین‌المللی ایفا کند تا پتانسیل سوءاستفاده از این سیستم‌ها را بسنجد.
تقویت دفاع سایبری و گزارش‌دهی حوادث
دولت بریتانیا در حال بررسی گسترش استفاده از هوش مصنوعی پیشرفته برای تقویت دفاع‌های سایبری است. همچنین، در چارچوب لایحه امنیت و تاب‌آوری سایبری (Cyber Security and Resilience Bill)، در حال تدوین سازوکاری برای شناسایی و گزارش‌دهی حوادث جدی یا «نزدیک به حادثه» (Near Misses) مرتبط با AI است. این برنامه‌ها با همکاری مرکز ملی امنیت سایبری (NCSC) و AISI برای پاسخگویی به حوادث مربوط به عامل‌های هوش مصنوعی (AI Agents) توسعه می‌یابند.
توصیه‌های عملیاتی برای سازمان‌ها و تیم‌های امنیت
برای سازمان‌هایی که در حال انتخاب ابزارهای هوش مصنوعی هستند، نتایج تست‌های پیش از انتشار اهمیت زیادی دارد. مدیران امنیت (CISOs) و تیم‌های IT باید به موارد زیر توجه کنند:
- بررسی یافته‌های پژوهشی: تحلیل گزارش‌هایی که نقاط ضعف شناسایی شده و نحوه پاسخ توسعه‌دهندگان به آن‌ها را شرح می‌دهند.
- ارزیابی محیط استقرار: به خاطر داشته باشید که تایید یک مدل توسط پژوهشگران دولتی، لزوماً به معنای ایمن بودن آن در محیط داخلی سازمان (در اتصال به اسناد حساس یا اپلیکیشن‌های داخلی) نیست.
- مدیریت دسترسی‌ها: پیش از استقرار AI در جریان‌های کاری حساس، دسترسی‌ها را محدود کرده و برای اقدامات حیاتی، تایید انسانی (Human Approval) را الزامی کنید.
- مانیتورینگ مستمر: پیاده‌سازی سیستم‌های نظارتی برای ثبت رفتارهای غیرمنتظره جهت تسهیل در پاسخ به حوادث (Incident Response).
