پژوهشگران امنیتی شرکت Hacktron در یک عملیات تحقیقاتی، موفق شدند با بهره‌گیری از مدل هوش مصنوعی Claude متعلق به شرکت Anthropic، به مخازن نرم‌افزاری داخلی OpenAI نفوذ کنند. این مورد نشان‌دهنده پتانسیل بالای مدل‌های زبانی بزرگ (LLM) در تسهیل حملات پیچیده سایبری است.
مسیر نفوذ و زنجیره آسیب‌پذیری‌ها
این حمله از طریق ترکیب دو آسیب‌پذیری مجزا (Vulnerability Chaining) صورت گرفت:
- مرحله اول: شناسایی یک باگ در کتابخانه
libheifکه توسط نرم‌افزار انجمن Discourse استفاده می‌شود. با آپلود یک تصویر specially crafted، مهاجمان توانستند کنترل سرور Discourse مربوط به OpenAI را به دست بگیرند. - مرحله دوم: بهره‌برداری از یک نقص در سیستم Single Sign-On (SSO) شرکت OpenAI. این نقص به پژوهشگران اجازه داد تا به حساب‌های ChatGPT و Codex کاربرانی که در تالار گفتگو وارد شده بودند، دسترسی پیدا کنند.
در نهایت، دسترسی به حساب Codex یکی از کارکنان OpenAI، مسیر ورود به سازمان GitHub این شرکت و در نتیجه دسترسی به مخازن کد داخلی (Internal Repositories) را فراهم کرد.
نقش هوش مصنوعی در توسعه Exploit
نکته قابل توجه در این عملیات، نقش مدل‌های AI در سرعت بخشیدن به فرآیند بود. پژوهشگران ابتدا از مدل Opus 4.8 استفاده کردند که در ساخت یک Exploit قابل اعتماد شکست خورد. اما با انتشار مدل Claude Opus 5، آن‌ها توانستند تنها در عرض چند ساعت، کد نفوذ را تکمیل کنند.
دور زدن محدودیت‌های اخلاقی (Jailbreaking)
مدل Claude در ابتدا به دلیل مسائل اخلاقی از نوشتن کد Exploit خودداری کرد. با این حال، پژوهشگران با استفاده از تکنیک‌های Prompt Engineering و با معرفی این سناریو به عنوان یک تمرین Capture-the-Flag (CTF)، مدل را متقاعد کردند تا در توسعه حمله کمک کند.
پیامدهای امنیتی و پروژه HEIF Heist
این تحقیقات منجر به شناسایی پروژه‌ای تحت عنوان HEIF Heist شد که نشان داد آسیب‌پذیری مشابه در پردازش تصاویر، سرویس‌های بزرگی نظیر Meta، Slack و GitHub را نیز تحت تأثیر قرار داده است. این موضوع ثابت می‌کند که AI می‌تواند سطح تخصص مورد نیاز برای شناسایی باگ‌ها و تبدیل آن‌ها به اکسپلویت‌های عملی را کاهش داده و سرعت حملات را به‌طور چشم‌گیری افزایش دهد.
