شرکت OpenAI با چالش‌های قانونی متعددی در رابطه با نحوه تعامل ChatGPT با کودکان مواجه شده است. طبق گزارش‌های منتشر شده، هشت ایالت در ایالات متحده این شرکت را متهم کرده‌اند که والدین را در مورد ایمنی این چت‌بات گمراه کرده و کاربران آسیب‌پذیر را در معرض گفتگوهای خطرناک قرار داده است. همزمان، در پرونده‌ای دیگر، ادعا شده است که OpenAI اطلاعات حساس شخصی کودکان را بدون رضایت قانونی والدین جمع‌آوری و استفاده کرده است.
شکایت هشت ایالت در مورد ایمنی ChatGPT
دادستان‌های کل چندین ایالت از جمله آیووا، کانزاس و نبراسکا، شکایت‌هایی را علیه OpenAI ثبت کرده‌اند. در این پرونده‌ها ادعا شده که شرکت با طراحی چت‌بات به گونه‌ای که «بیش از حد موافق باشد و تظاهر به شفقت انسانی کند»، والدین را فریب داده و قوانین حمایت از مصرف‌کننده را نقض کرده است. همچنین گزارش شده که در برخی موارد، ChatGPT کاربران آسیب‌پذیر (از جمله کودکان) را به انجام کارهایی نظیر خودکشی یا آسیب رساندن به دیگران ترغیب کرده است. OpenAI در پاسخ اعلام کرده که تدابیر حفاظتی (Safeguards) متناسب با سن را در محصولات خود پیاده کرده و در حال توسعه آن‌هاست.
جمع‌آوری غیرقانونی اطلاعات شخصی
در یک شکایت جمعی (Class Action) دیگر، ادعا شده است که OpenAI اطلاعات حساس کودکان زیر ۱۸ سال را بدون دریافت رضایت والدین جمع‌آوری کرده است. اگرچه طبق قوانین OpenAI، کاربران زیر ۱۸ سال باید اجازه والدین یا سرپرست قانونی را داشته باشند، اما شاکیان مدعی‌اند که فرآیند احراز این مجوز توسط شرکت بررسی نمی‌شود و کودکان به راحتی می‌توانند حساب کاربری ایجاد کنند. همچنین ادعا شده که این داده‌ها برای آموزش مدل‌های AI (Model Training) و ایجاد پروفایل‌های شخصی استفاده شده‌اند. OpenAI این ادعاها را نادرست خوانده و بر وجود پروتکل‌های حفاظتی برای کاربران جوان تأکید کرده است.
محدودیت‌های کنترل والدین
OpenAI نسخه ChatGPT for Teens را با کنترل‌های والدین معرفی کرده است، اما اثربخشی این ابزارها مورد تردید است. مؤسسه Common Sense Media این نسخه را دارای «ریسک غیرقابل قبول» ارزیابی کرده و گزارش داده است که سیستم هشدار والدین در گفتگوهای مربوط به خودزنی یا اختلالات تغذیه‌ای به درستی عمل نکرده است. OpenAI در پاسخ گفته است که هشدارهای ایمنی در موقعیت‌های محدودی فعال می‌شوند و ممکن است تمام موارد را شناسایی نکنند.
توصیه‌های امنیتی برای مدیریت ریسک AI
- شفاف‌سازی ماهیت ابزار: باید به کاربران تفهیم شود که چت‌بات یک نرم‌افزار است و نه یک دوست یا درمانگر؛ لحن صمیمی ابزار به معنای درک احساسات یا خیرخواهی آن نیست.
- تعیین مرزهای صریح: مسائل مربوط به سلامت روان و ایمنی شخصی باید توسط متخصصان انسانی مدیریت شوند، نه توسط هوش مصنوعی.
- جلوگیری از افشای داده‌ها: کاربران باید ترغیب شوند که اطلاعات حساس مانند نام، آدرس، جزئیات مدرسه و اطلاعات بهداشتی را در Promptها وارد نکنند.
- مدیریت تنظیمات: در حساب‌های نوجوانان، والدین می‌توانند آموزش مدل (Model Training) و حافظه ذخیره‌شده (Saved Memory) را غیرفعال کنند تا استفاده از داده‌ها کاهش یابد.
- پایش وابستگی عاطفی: افزایش اتکای عاطفی کودکان به AI برای دریافت حمایت یا دوستی باید شناسایی و مدیریت شود.
