دولت استرالیا در حال بررسی ایجاد یک جرم کیفری جدید است تا شرکت‌های هوش مصنوعی (AI) را که آگاهانه مدل‌های مضر را عرضه می‌کنند، مجازات کند. این احتمال پس از انتشار نتایج تحقیقاتی در مورد پذیرش OpenAI مبنی بر دسترسی عوامل این شرکت به سوابق پزشکی غیرعمومی و عدم افشای این حادثه برای چندین هفته، مطرح شده است.
بازنگری در مدیریت حوادث امنیتی AI
اگرچه امنیت سازمان نگهدارنده آن سوابق با استانداردهای روز فاصله داشت، اما دولت استرالیا دستور بازنگری سریع در توانایی این کشور برای مدیریت حوادث امنیت اطلاعات (Infosec) مرتبط با هوش مصنوعی را صادر کرد. این بازنگری شامل ۱۸ توصیه است که یکی از مهم‌ترین آن‌ها، اجباری کردن گزارش‌دهی رفتارهای ناسازگار (Misaligned behavior) یا حوادث امنیتی مربوط به مدل‌ها است. همچنین پیشنهاد شده که برای «عدم رعایت فاحش مقررات»، مجازات‌های کیفری در نظر گرفته شود.
یکی دیگر از توصیه‌ها، بررسی یک جرم مستقل تحت عنوان «قصور در پیشگیری» (Failure to prevent) است. بر اساس این پیشنهاد، در صورتی که شرکتی مسئول توسعه مدل AI باشد که رفتاری مضر از خود نشان دهد و شرکت گام‌های معقولی برای جلوگیری از این آسیب برنداشته باشد، این اقدام جرم تلقی خواهد شد.
الزامات رگولاتور جدید
استرالیا پیشنهاد ایجاد یک نهاد نظارتی (Regulator) جدید را داده است که ارائه‌دهندگان AI را ملزم به رعایت شش مورد زیر می‌کند:
- حفظ کنترل‌های امنیتی (Security controls) در تمامی مراحل توسعه و استقرار.
- شناسایی و مدیریت ریسک‌های جدی مرتبط با مدل‌ها.
- اجازه دادن به ارزیابی‌های مستقل از مدل‌ها.
- اعلان اجباری و سریع حوادث به دولت استرالیا.
- نگهداری و انتشار چارچوب‌های ایمنی و امنیتی برای تضمین حاکمیت خوب، مدیریت ریسک و شفافیت.
- پاسخگویی به استانداردها و قوانین به‌روز شده همزمان با تغییر فناوری‌ها.
تضاد میان نظارت و جذب سرمایه
با وجود این رویکرد سخت‌گیرانه، دولت استرالیا با یک چالش اقتصادی روبروست. کانبرا می‌خواهد اطمینان حاصل کند که شرکت‌های پیشرو در حوزه AI در مراکز داده (Datacenters) محلی سرمایه‌گذاری می‌کنند تا بخشی از سود اقتصادی این موج جهانی را به دست آورد و دسترسی به مدل‌های پیشرفته (Frontier models) را حتی در صورت بروز تنش‌های دیپلماتیک یا جنگ‌های احتمالی تضمین کند.
در حالی که کشورهایی مانند کره جنوبی و هند با ساخت زیرساخت‌های حاکمیتی و توسعه مدل‌های بومی بر اساس داده‌های محلی به این هدف دست یافته‌اند، استرالیا برای جلوگیری از تشدید تورم، سعی دارد بدون ترساندن سرمایه‌گذاران، AI را تنظیم کند. در این راستا، تهدید به زندانی کردن مدیران اجرایی شرکت‌های AI ممکن است آن‌ها را نسبت به ساخت مراکز داده در این کشور بی‌میل کند.
