گزارش‌های اخیر نشان می‌دهد که برخلاف تصور بسیاری از کاربران مبنی بر محرمانه بودن گفتگوها با هوش مصنوعی، برخی از داده‌های ارسالی به Microsoft Copilot توسط پیمانکاران انسانی بازبینی می‌شوند. طبق یافته‌های منتشر شده، اپراتورهای انسانی به عکس‌های اصلی کاربران، درخواست‌های ویرایشی و خروجی‌های تولید شده توسط هوش مصنوعی دسترسی دارند تا کیفیت فنی آن‌ها را ارزیابی کنند.
جزئیات فرآیند بازبینی و نگرانی‌های اخلاقی
در این فرآیند، پیمانکاران شرکت‌های ثالث، یک عکس اصلی و درخواست کاربر برای ویرایش آن را دریافت کرده و دو نمونه از ویرایش‌های پیشنهادی AI را از نظر کیفیت فنی مقایسه می‌کنند. نکته تکان‌دهنده این است که بسیاری از این درخواست‌ها ماهیت توهین‌آمیز، جنسی یا غیرقانونی دارند و در بسیاری از موارد، چهره‌های موجود در تصاویر بدون هیچ‌گونه سانسوری در اختیار بازبین‌ها قرار می‌گیرد.
بر اساس اظهارات بازبین‌ها، وظیفه آن‌ها صرفاً بررسی معیارهای فنی مانند رعایت دستورات کاربر، عدم اعوجاج تصویر و ظاهر کلی خروجی است و آن‌ها مسئولیتی در قبال گزارش محتوای نامناسب یا قضاوت‌های قانونی و امنیتی ندارند.
ابهامات در سیاست‌های حریم خصوصی مایکروسافت
مایکروسافت در بخش سوالات متداول (FAQ) حریم خصوصی خود ذکر کرده است که گفتگوها را به طور پیش‌فرض برای ۱۸ ماه ذخیره می‌کند و ممکن است از تصاویر یا فایل‌های آپلود شده برای آموزش AI استفاده کند. اگرچه کاربران واجد شرایط می‌توانند از فرآیند آموزش (Training) خارج شوند (Opt-out)، اما مشخص نیست که آیا این گزینه شامل بازبینی‌های انسانی برای ارزیابی کیفیت تصاویر نیز می‌شود یا خیر.
سوابق امنیتی و دور زدن محدودیت‌ها
این اولین بار نیست که ابزارهای تصویری مایکروسافت با چالش مواجه می‌شوند. پیش از این، مهندسان یادگیری ماشین در داخل شرکت هشدار داده بودند که می‌توان محدودیت‌های (Guardrails) ابزار DALL-E 3 را دور زد. همچنین در اوایل سال ۲۰۲۴، یک حفره امنیتی در Copilot Designer شناسایی شد که امکان تولید تصاویر جعلی (Deepfake) صمیمانه و بدون رضایت افراد را فراهم می‌کرد.
لازم به ذکر است که مایکروسافت تنها شرکتی نیست که از بازبین‌های انسانی استفاده می‌کند؛ شرکت OpenAI نیز در قالب ابتکاری به نام Project Lily، رویکرد مشابهی را برای بهبود مدل‌های خود دنبال می‌کند.
