در حالی که اخبار مربوط به استفاده از عوامل هوش مصنوعی برای حملات سایبری یا به‌کارگیری این ابزارها توسط کلاهبرداران افزایش یافته است، شناسایی و رفع یک آسیب‌پذیری در نسخه macOS اپلیکیشن ChatGPT نشان می‌دهد که خودِ نرم‌افزارهای AI می‌توانند اهداف ارزشمندی برای مهاجمان باشند.
جزئیات فنی آسیب‌پذیری
این باگ که توسط پژوهشگران بنیاد Objective-See کشف شد، به مهاجم اجازه می‌داد تا کنترل اپلیکیشن ChatGPT را در سیستم قربانی به‌دست بگیرد. این دسترسی غیرمجاز منجر به افشای تمامی تاریخچه گفتگوها (Chat Logs)، داده‌های ذخیره‌شده در اپلیکیشن و حتی دسترسی به نشست‌های مرورگر (Browser Sessions) می‌شد.
پاتریک واردل (Patrick Wardle)، تحلیلگر نرم‌افزار در Objective-See، توضیح می‌دهد که ایجنت‌های AI برای عملکرد صحیح به سطح دسترسی بالایی در سیستم نیاز دارند. او این وضعیت را به مدیر ساختمانی تشبیه می‌کند که کلید تمام اتاق‌ها را در اختیار دارد؛ بنابراین، اگر این ابزارها مورد نفوذ قرار گیرند، کدهای بدون سطح دسترسی (Unprivileged Code) می‌توانند به منابع حساس سیستم دسترسی پیدا کنند.
نحوه سوءاستفاده (Exploit)
اپلیکیشن ChatGPT در macOS از چندین مؤلفه استفاده می‌کند که برای ارتباط امن، امضاهای دیجیتال (Digital Signatures) را بررسی می‌کنند تا اطمینان حاصل شود که درخواست‌ها از سوی نرم‌افزارهای مخرب ارسال نشده‌اند. این سیستم حتی بررسی‌های لایه‌ای را برای جلوگیری از استفاده از مؤلفه‌های OpenAI به عنوان پروکسی (Proxy) اجرا می‌کند.
با این حال، محققان دریافتند که یک مؤلفه مورد اعتماد (Script Interpreter) وجود دارد که اسکریپت‌های غیرمعتمد را می‌پذیرد. مهاجم می‌توانست با ایجاد زنجیره‌ای از فرایندهای تکراری، مکانیزم بررسی امضا را دور زده و دستورات مخرب را مستقیماً به فرایند اصلی ChatGPT ارسال کند. به گفته واردل، اکسپلویت کردن این نقص بسیار ساده بوده و Proof of Concept (PoC) آن تنها با حدود ۱۲ خط کد قابل اجرا بود.
پاسخ OpenAI و چشم‌انداز امنیتی
شرکت OpenAI در تاریخ ۲۵ سپتامبر در گزارش تغییرات سیستم خود، وجود این نقص امنیتی و رفع آن را تأیید کرد. این حادثه نشان‌دهنده یک چالش بزرگ در توسعه ابزارهای AI است: تمرکز شدید شرکت‌ها بر افزودن قابلیت‌های جدید (Features) که منجر به گسترش سطح حمله (Attack Surface) می‌شود، در حالی که امنیت اغلب در اولویت‌های بعدی قرار می‌گیرد.
