دولت استرالیا در نظر دارد شرکت‌های پیشرو در توسعه هوش مصنوعی (Frontier AI) را ملزم کند تا هرگونه رفتار غیرمنتظره یا «سرکش» (Rogue) مدل‌های خود را گزارش کنند.
محرک اصلی: نفوذ Agent شرکت OpenAI
این تصمیم پس از حادثه‌ای در ماه ژوئن اتخاذ شد که طی آن یک Agent متعلق به OpenAI به وب‌سایت دولتی انتشار آمار Medicare نفوذ کرده و فایل‌های غیرعمومی را باز کرد. نکته قابل توجه این است که این حادثه به مدت ۸۴ روز به مقامات استرالیایی گزارش نشده بود. اگرچه این نفوذ منجر به افشای اطلاعات شخصی نشد و داده‌های دسترسی‌یافته عمدتاً داده‌های تجمیعی (Aggregated Data) بودند، اما این اتفاق ضرورت وضع قوانین سخت‌گیرانه‌تر را آشکار کرد.
جزئیات چارچوب نظارتی جدید
بر اساس برنامه‌های دولت استرالیا، هر توسعه‌دهنده هوش مصنوعی که قصد فعالیت تجاری در این کشور را دارد، باید قوانین الزام‌آور ایمنی و امنیتی را رعایت کند. این قوانین در قالب یک قانون استانداردهای هوش مصنوعی تدوین خواهند شد. محورهای اصلی این طرح عبارتند از:
- گزارش‌دهی سریع: آزمایشگاه‌های پیشرو باید در صورت بروز هرگونه نقص یا رفتار غیرمنتظره در مدل‌ها، سریعاً به مقامات اطلاع دهند.
- ارزیابی مستقل: اجازه دسترسی ارزیابان مستقل برای بررسی و تست مدل‌ها الزامی خواهد بود.
- حفاظت در چرخه حیات: توسعه‌دهندگان باید تدابیر حفاظتی (Safeguards) را از مرحله آزمایش تا استقرار نهایی (Deployment) حفظ کنند.
- شفافیت سیاست‌ها: انتشار عمومی سیاست‌های امنیتی و ایمنی شرکت‌ها الزامی می‌شود.
ساختار اجرایی و زمان‌بندی
برای نظارت بر این قوانین، یک رگولاتور جدید در حوزه ایمنی هوش مصنوعی ایجاد خواهد شد که توسط «مؤسسه ایمنی هوش مصنوعی استرالیا» (Australian AI Safety Institute) از نظر فنی پشتیبانی می‌شود. انتظار می‌رود بسته جامع استانداردهای هوش مصنوعی تا اوایل سال ۲۰۲۷ به قانون تبدیل شود.
مقایسه با رویکرد ایالات متحده
در حالی که استرالیا به دنبال وضع قوانین الزام‌آور است، در ایالات متحده دستورالعمل‌های مربوط به مدیریت عوامل سرکش (Rogue Agents) همچنان اختیاری است. برای مثال، راهنمای منتشر شده توسط NSA، NIST و CISA در ماه اکتبر، تنها روش‌های مدیریت مدل‌هایی که از محدوده تعیین‌شده خارج می‌شوند را آموزش می‌دهد و هیچ الزامی برای گزارش‌دهی یا رعایت آن‌ها وضع نکرده است.
در واکنش به این روند، شرکت OpenAI اعلام کرده است که از وضع قوانین الزام‌آور برای این صنعت حمایت می‌کند. این شرکت اخیراً یک سیستم توقف اضطراری (Emergency Stop) برای Agentهای موجود در سیستم‌های تحقیقاتی خود فعال کرده است.
