شرکت متا (Meta) اعلام کرد که در مجموع حدود ۱.۲ میلیون دلار به عنوان پاداش (Bug Bounty) برای شناسایی نقاط ضعف امنیتی در عامل هوش مصنوعی Muse پرداخت کرده است. یکی از این پاداش‌ها، مبلغ ۳۰۰ هزار دلار برای کشف یک نقص امنیتی پیش از عرضه بود که منجر به افشای داده‌ها در سیستم‌های تست داخلی شده بود.
عامل Muse چیست؟
Muse یک عامل هوش مصنوعی شخصی (Personal AI Agent) است که می‌تواند به نمایندگی از کاربر در ایمیل‌ها، تقویم، پیام‌رسان‌ها و سایر حساب‌ها فعالیت کند. برای حفظ امنیت و جداسازی، هر کاربر یک ماشین مجازی (Virtual Machine) اختصاصی برای عامل خود دارد.
تحلیل آسیب‌پذیری‌های کلیدی
بر اساس گزارش دیوید سینگلتون از متا، از میان ۶۳۰ گزارش دریافتی، ۶۴ مورد معتبر تشخیص داده شدند. برخی از مهم‌ترین یافته‌ها عبارتند از:
- دور زدن احراز هویت (Authentication Bypass): پاداش ۳۰۰ هزار دلاری برای نقصی پرداخت شد که در آن یک بررسی احراز هویت، هدر (Header) اضافه شده توسط یک پروکسی HTTPS محلی را به عنوان مدرکی برای اعتماد به منبع درخواست می‌پذیرفت. در جریان مهاجرت سیستم، لایه دوم پروکسی اضافه شد و باعث شد درخواست‌های خارجی نیز بتوانند این هدر مورد اعتماد را ارسال کنند.
- تزریق دستورات و جعل وضعیت (Prompt Injection): پاداش ۹۰ هزار دلاری برای گزارشی پرداخت شد که در آن یک صفحه وب مخرب، هنگام خلاصه‌سازی توسط Muse، پیام‌های وضعیت ابزار مرورگر عامل را تقلید می‌کرد تا Muse را مجبور به اجرای عملیاتی کند که باید مسدود می‌شدند.
- دور زدن فیلترهای حریم خصوصی: ۹۰ هزار دلار دیگر برای کشف روشی پرداخت شد که با استفاده از فرمت‌بندی‌های خاص، کدهای یک‌بار مصرف (OTP) را از فیلترهای حذف محتوای حساس (Redaction Filters) در ایمیل‌ها عبور می‌داد.
- نقص در اپلیکیشن اندروید: پاداش ۵۰ هزار دلاری برای آسیبی پرداخت شد که به یک اپلیکیشن مخرب اجازه می‌داد لینکی را به یک Web View دارای دسترسی بالا ارسال کند. به دلیل عدم اعتبارسنجی میزبان (Host)، صفحه مهاجم می‌توانست اعتبارنامه‌های (Credentials) مربوط به Web View را سرقت کند.
- اجرای کد در مک (RCE): پاداش ۱ هزار دلاری برای نقصی در اپلیکیشن Mac پرداخت شد که به مهاجم با دسترسی محلی اجازه می‌داد از قابلیت به‌روزرسانی خودکار برای اجرای کد با مجوزهای اپلیکیشن استفاده کند.
سیاست‌های پاداش‌دهی متا برای AI
متا برای هر گزارش معتبر تا سقف ۳۰۰ هزار دلار پرداخت می‌کند. طبق اعلام این شرکت، پاداش‌های مربوط به حملات Prompt Injection که یک کاربر واحد را تحت تأثیر قرار دهند تا ۱۳۰ هزار دلار و در صورت ایجاد اختلال در سطح کل سیستم (Fleetwide Compromise)، تا ۲۵۰ هزار دلار خواهد بود.
