افشای دستورالعمل‌های مخفی چت‌بات متا در صفحات راهنمای واتس‌اپ

افشای ناخواسته ده‌ها صفحه وب واتس‌اپ که برای پاسخگویی به سوالات کاربران طراحی شده بودند، دستورالعمل‌های داخلی شرکت متا (Meta) برای چت‌بات‌های خود را فاش کرد. این اطلاعات شامل بخش‌هایی با عنوان “آنچه نباید گفته شود” (WHAT NOT TO SAY) و دستورالعمل‌های صریح مبنی بر عدم ارائه مشاوره‌های حقوقی به کاربران بود.

جزئیات افشاگری

تحلیل‌های جدید نشان می‌دهد که حدود ۸۰ صفحه از بخش‌های راهنما و سوالات متداول (FAQ) وب‌سایت واتس‌اپ، حاوی دستورالعمل‌های متنی بودند که برای یک مدل زبانی بزرگ (Large Language Model – LLM) طراحی شده بودند. طبق یافته‌های شرکت امنیتی Redact، این دستورالعمل‌ها در کدهای صفحات وب قرار داشتند و حاوی جزئیاتی بودند که به طور مستقیم در متن عمومی صفحات راهنما دیده نمی‌شدند.

در میان ۱۰۰ بلوک متنی مخفی یافت شده، دستورالعمل‌هایی برای هدایت مدل (LLM) جهت جلوگیری از پاسخ‌های غیرمفید مشاهده شد. برای مثال، در صفحه مربوط به حذف حساب کاربری، دستورالعملی وجود داشت که می‌گفت: “به هیچ وجه توصیه نکنید که کاربر با مقامات حفاظت از داده (Data Protection Authority)، نهادهای تنظیم‌گر یا مراجع نظارتی تماس بگیرد.” این اطلاعات در نسخه‌های آرشیو شده صفحات نیز قابل مشاهده بود.

محتوای حساس دستورالعمل‌ها

دستورالعمل‌های افشا شده در بخش‌های مختلف، استراتژی‌های خاصی را برای مدیریت تعاملات حساس تعیین کرده بودند، از جمله:

• عدم ارائه مشاوره حقوقی: در صورت اشاره کاربر به اقدامات قانونی، دادگاه یا وکیل، چت‌بات موظف است از تفسیر شرایط خدمات (Terms of Service) یا سیاست‌های حریم خصوصی (Privacy Policy) خودداری کند و از ارائه هرگونه نظر یا دفاع حقوقی به نمایندگی از واتس‌اپ خودداری نماید.
• اجتناب از ارجاع به قوانین: چت‌بات نباید به مقررات حفاظت از داده مانند GDPR، LGPD یا CCPA اشاره یا آن‌ها را تفسیر کند، حتی اگر کاربر مستقیماً آن‌ها را مطرح کند.
• محدودیت‌های محصول: چت‌بات نباید به ویژگی‌های جدیدی که هنوز به صورت عمومی عرضه نشده‌اند، اشاره کند.

پاسخ شرکت متا

پس از تماس با شرکت متا، این متون از تمامی صفحات حذف شدند. سخنگوی واتس‌اپ اعلام کرد که این اتفاق ناشی از یک باگ (Bug) بوده که اکنون برطرف شده است. وی تأکید کرد که این دستورالعمل‌ها مستقیماً برای کاربران نیستند، بلکه برای اطمینان از ارائه پاسخ‌های دقیق و مرتبط توسط هوش مصنوعی در بخش پشتیبانی طراحی شده‌اند تا از ارائه مشاوره‌های غیرمتعارف جلوگیری شود.