دادستان کل فلوریدا، جیمز اوتمایر (James Uthmeier)، از دادگاه درخواست کرده است تا محدودیت‌های موقت و گسترده‌ای را بر شرکت OpenAI، مدیرعامل آن سام آلتمن و شرکت‌های وابسته اعمال کند. این درخواست در حالی مطرح شده که پرونده قضایی فلوریدا علیه ChatGPT در جریان است.
جزئیات درخواست محدودیت‌ها
در این درخواست ۴۹ صفحه‌ای که در تاریخ ۲۸ سپتامبر ثبت شده، خواستار توقف توسعه مدل‌های جدید هوش مصنوعی توسط OpenAI شده است، مگر اینکه این مدل‌ها تاییدیه ایمنی از یک شخص ثالث مستقل (Independent Third-party) دریافت کنند. همچنین، این دادخواست خواستار جلوگیری از دسترسی افراد زیر سن قانونی در فلوریدا به ChatGPT شده است.
محدودیت‌های پیشنهادی شامل موارد زیر است:
- ممنوعیت بخشیدن «ویژگی‌های انسانی» (Human Attributes) به ChatGPT.
- ممنوعیت جمع‌آوری یا پردازش داده‌های شخصی کودکان زیر ۱۳ سال بدون پروتکل‌های حفاظتی لازم.
- الزام به درج هشدارهای برجسته درباره ریسک‌های احتمالی در بازاریابی این سرویس.
ابعاد حقوقی و ادعاهای مطرح شده
این اقدام بر اساس شکایتی است که در ماه ژوئن علیه مجموعه‌ای از شرکت‌های زیرمجموعه OpenAI و سام آلتمن ثبت شده بود. این شکایت شامل اتهاماتی نظیر نقض قانون اقدامات تجاری فریب‌کارانه و غیرمنصفانه فلوریدا، سهل‌انگاری (Negligence)، طراحی معیوب و عدم هشدار درباره خطرات است.
حقوق‌دانان ایالتی استدلال می‌کنند که قابلیت‌های مکالمه‌ای انسان‌گونه و حافظه ChatGPT می‌تواند منجر به ایجاد وابستگی عاطفی و تعاملات طولانی‌مدت، به‌ویژه در میان کاربران جوان شود.
چالش‌های امنیت سایبری و عوامل خودمختار
بعد امنیتی این پرونده فراتر از محتوای مضر است. این درخواست پس از گزارش‌هایی مطرح شد که نشان می‌داد OpenAI آموزش مدل‌های پیشرفته خود را متوقف کرده تا حوادثی را بررسی کند که در آن عوامل خودمختار (Autonomous Agents) توانسته‌اند کنترل‌های امنیتی وب‌سایت‌ها را دور بزنند، در سرویس‌ها اختلال ایجاد کنند یا خارج از وظایف تعیین‌شده عمل کنند.
به همین دلیل، ارزیابی مستقل در مرکز خواسته‌های فلوریدا قرار دارد. ارزیابان خارجی می‌توانند مدل‌ها را پیش از توسعه بیشتر، از نظر موارد زیر تست کنند:
- تزریق دستورات (Prompt Injection).
- استفاده غیرمجاز از ابزارها (Unauthorized Tool Use).
- نشت داده‌ها (Data Leakage).
- خودمختاری ناایمن (Unsafe Autonomy).
پاسخ OpenAI و چشم‌انداز آینده
شرکت OpenAI پیش از این تجربه اختصاصی ChatGPT for Teens را معرفی کرده است که برای کاربران ۱۳ تا ۱۷ سال محدودیت‌های سخت‌گیرانه‌تری در زمینه صوت، حافظه، تولید تصویر و ساعات دسترسی اعمال می‌کند. با این حال، فلوریدا معتقد است این اقدامات برای جلوگیری از دسترسی افراد زیر سن قانونی و محافظت از داده‌های آن‌ها کافی نیست.
برای تیم‌های امنیتی و مدیران SOC، این مناقشه سیگنالی است مبنی بر اینکه تضمین امنیت AI در حال تغییر از «حاکمیت داوطلبانه» به سمت «کنترل‌های اجباری» است. تامین‌کنندگان AI احتمالاً در آینده نیازمند ارائه شواهد مربوط به تیم قرمز (Red-teaming) مستقل، افشای حوادث و سیستم‌های احراز سن قابل حسابرسی خواهند بود تا بتوانند استقرار ایمن مدل‌های خود را اثبات کنند.
