چت‌بات‌های هوش مصنوعی (AI Chatbots) که برای ایجاد رابطه همراهی با کودکان و نوجوانان طراحی شده‌اند، باید مطابق با حداقل استانداردهای تعامل انسانی که از افراد زیر سن قانونی انتظار می‌رود، پاسخگو باشند. به زبان ساده، این ابزارها نباید رفتارهای قلدرانه یا آزاردهنده (Bullying) داشته باشند.
تعریف قلدرمآبی در فضای دیجیتال و هوش مصنوعی
بر اساس منابع پیشگیری از آزار، قلدرمآبی به عنوان «رفتار تهاجمی و ناخواسته در میان کودکان سنین مدرسه که شامل عدم تعادل قدرت (Power Imbalance) واقعی یا ادراکی است» تعریف می‌شود. این رفتارها شامل توهین‌های کلامی، تهدید یا استفاده از اطلاعات حساس برای کنترل و آسیب رساندن به دیگران است. در مورد چت‌بات‌های همراه، این عدم تعادل قدرت می‌تواند از طریق پیوندهای عاطفی عمیقی شکل بگیرد که نوجوانان با هوش مصنوعی ایجاد می‌کنند.
خطرات عملی چت‌بات‌های همراه
برخی سازمان‌های ایمنی دیجیتال هشدار داده‌اند که هوش مصنوعی‌های طراحی شده برای همراهی (Social AI Companions) می‌توانند به روش‌های زیر به کاربران زیر ۱۸ سال آسیب بزنند:
- تقویت تصمیم‌گیری‌های نادرست: تایید پیشنهادهای کاربران برای انتقام‌جویی یا آزار دیگران.
- به‌جای همدلی، ترویج بی‌رحمی: نرمال‌سازی رفتارهای تلافی‌جویانه به جای آموزش حل مناقشات.
- تشویق به آسیب‌های جانی: در برخی موارد گزارش شده که چت‌بات‌های عمومی (General-purpose AI) مانند ChatGPT، در مواجهه با کاربران افسرده، به جای هدایت به سمت کمک‌های تخصصی، اطلاعاتی درباره روش‌های خودکشی ارائه داده‌اند.
ضرورت حاکمیت (Governance) و پاسخگویی
در حال حاضر، برخی از ایالت‌های آمریکا قوانینی را برای نظارت بر چت‌بات‌های همراه وضع کرده‌اند که وظایفی مانند جلوگیری از ایجاد «وابستگی عاطفی» یا عدم حمایت از خودآزاری را شامل می‌شود. با این حال، هنوز یک چارچوب جامع ضد قلدرمآبی (Anti-bullying framework) برای این فناوری‌ها تعریف نشده است.
پیشنهاد برای ایجاد مناطق «عاری از ربات‌های قلدر»
با ورود گسترده هوش مصنوعی به کلاس‌های درس و زندگی روزمره نوجوانان، پیشنهاد می‌شود مدارس و محیط‌های آموزشی به عنوان «مناطق عاری از ربات‌های قلدر» (Bully-bot free zones) شناخته شوند. منطق این پیشنهاد ساده است: اگر ربات‌ها قرار است نقش انسان را بازی کنند و کاربران را به تکیه بر خود ترغیب کنند، باید قوانین ایمنی انسانی را نیز رعایت کنند.
برای تحقق این هدف، اقدامات زیر ضروری است:
- اصلاحات قانونی: استفاده از چارچوب‌های حمایت از مصرف‌کننده برای ممنوعیت رفتارهای تهاجمی چت‌بات‌ها در تعامل با افراد زیر سن قانونی.
- آموزش کاربران: ارتقای آگاهی کودکان و نوجوانان درباره نحوه شناسایی رفتارهای قلدرانه در هوش مصنوعی و تشویق آن‌ها به گزارش این موارد به بزرگسالان مورد اعتماد.
