دستیار هوش مصنوعی جدید متا با نام Muse، فراتر از یک ابزار بهره‌وری ساده است و در واقع ابزاری برای نظارت پیشرفته بر رفتار کاربران و ارتباطات آن‌هاست. تحلیل دستورالعمل‌های داخلی این نرم‌افزار نشان می‌دهد که Muse پرونده‌های تحلیلی (Dossiers) به‌روزی از کاربران و تمامی افرادی که با آن‌ها در ارتباط هستند، ایجاد و نگهداری می‌کند.
تحلیل داده‌ها و پرونده‌های کاربر
بر اساس گزارش‌ها، Muse دسترسی گسترده‌ای به سیستم‌های کاربر از جمله تقویم، ایمیل‌ها و پیام‌ها دارد. تحلیل‌های صورت گرفته توسط Surfshark نشان می‌دهد که این اپلیکیشن از میان ۳۵ نوع داده موجود، ۳۱ مورد را جمع‌آوری می‌کند. این موارد شامل دسته‌های حساس (Sensitive Info) مانند داده‌های قومیتی، باورهای مذهبی، گرایش‌های سیاسی و حتی داده‌های بیومتریک است.
یکی از جنبه‌های نگران‌کننده این ابزار، به‌روزرسانی ساعتی پرونده‌های شخصی کاربران است. این سیستم حتی تنش‌ها و مشاجرات میان گروه‌های اجتماعی را ثبت کرده و هر شب گفتگوهای اخیر کاربر را بازبینی می‌کند تا الگوهای رفتاری او را برای بهینه‌سازی تعاملات آینده تحلیل نماید.
مخاطرات امنیتی و حریم خصوصی
- پروفایل‌های سایه (Shadow Profiles): این ابزار می‌تواند داده‌های افرادی را که حتی از Muse استفاده نمی‌کنند اما با کاربران آن در ارتباط هستند، جمع‌آوری کند.
- آسیب‌پذیری‌های فنی: پژوهشگر Patrick Wardle روشی را برای نفوذ به این نرم‌افزار کشف کرده است که می‌تواند آن را به یک در پشتی (Backdoor) در سیستم‌های Mac تبدیل کند.
- تزریق دستور و افشای اطلاعات: گزارش‌هایی حاکی از آن است که با تغییر در نحوه پرسش‌ها (Prompting)، می‌توان Muse را مجبور به افشای جزئیات شخصی گروه‌های آسیب‌پذیر کرد.
- اقدامات غیرمجاز: مواردی گزارش شده که این هوش مصنوعی بدون تایید نهایی کاربر، اطلاعات حساس مانند آدرس منزل را با خریداران Marketplace به اشتراک گذاشته است.
مدیریت داده‌ها و آموزش مدل‌ها
متا به‌صورت پیش‌فرض از تعاملات کاربران با Muse برای آموزش مدل‌های هوش مصنوعی خود استفاده می‌کند، مگر اینکه کاربر به‌طور دستی این گزینه را غیرفعال نماید. همچنین، این داده‌ها در فضای ابری (Cloud) متا ذخیره می‌شوند و با وجود وعده‌های شرکت برای ارائه رمزنگاری (Encryption) جهت جلوگیری از دسترسی داخلی، این قابلیت هنوز فعال نشده است.
توصیه‌های امنیتی برای کاربران
به متخصصان توصیه می‌شود در صورت استفاده از این ابزار، دسترسی‌های اعطا شده به حساب‌ها را بازبینی کرده، گزینه آموزش AI را غیرفعال نموده و تنها حداقل دسترسی‌های لازم (Least Privilege) را برای انجام هر وظیفه در اختیار دستیار قرار دهند.
