شرکت تحقیقاتی امنیت سایبری Xint اخیراً جزئیاتی از یک باگ در API شرکت OpenAI منتشر کرد که منجر به نشت ردپاهای استدلالی (Reasoning Traces) خام از مدل‌های پیشرفته این شرکت می‌شود. OpenAI وجود این نقص را تأیید کرده و اعلام نموده است که اقدامات اصلاحی را انجام داده و پاداش Bug Bounty را به کشف‌کننده پرداخت کرده است.
شکست محدودیت‌های امنیتی و تکنیک Compaction Smuggling
نکته قابل توجه این است که OpenAI پیش از این در ماه اوت، پس از انتشار گزارشی با عنوان “Stolen Thoughts”، اصلاحاتی را برای جلوگیری از سرقت ردپاهای استدلالی اعمال کرده بود. این ردپاها می‌توانند منجر به استخراج داده‌ها در مقیاس بزرگ، اجرای تزریق‌های نامرئی پرامپت (Invisible Prompt Injections) و قرار دادن محموله‌های مخرب برای مسموم کردن ابزارهای Agentic شوند. با این حال، کشف جدید Xint توانست این محدودیت‌ها را دور بزند.
محققان Xint این روش جدید را Compaction Smuggling نامیده‌اند. در این تکنیک، استدلال یک مدل از طریق کدگذاری در یک “Compaction” به مدل دیگر منتقل می‌شود. فرآیند به این صورت بود که ابتدا استدلال‌های رمزگذاری شده از یک تسک خاص استخراج شده و سپس با درخواست خروجی در قالب یک شیء JSON و جایگزینی تمامی فاصله‌ها (Spaces) با Tab (t)، سیستم‌های طبقه‌بندی سیاست‌های استفاده (Usage-policy Classifiers) شرکت OpenAI دور زده شدند.
رویکرد «وصله کردن موضعی» در مدل‌های هوش مصنوعی
این اتفاق نشان‌دهنده یک روند نگران‌کننده در میان ارائه‌دهندگان بزرگ AI است؛ جایی که به جای رفع ریشه مشکل، تنها مسیرهای خاص حمله (Attack Paths) بسته می‌شوند. برای مثال، AWS نیز اخیراً با مشکلی مشابه روبرو شد که پس از اصلاح در ماه آوریل، دوباره در ماه سپتامبر نیاز به اصلاح مجدد یافت.
تحلیلگران معتقدند مدل‌های هوش مصنوعی به دلیل تغییرات مداوم و ماهیت پویا، اهدافی متغیر هستند و هرگونه محدودیت امنیتی در آن‌ها می‌تواند بسیار شکننده باشد. در واقع، ارائه‌دهندگان به جای اصلاح ویژگی‌های بنیادین (Properties)، تنها مسیرهای گزارش شده (Paths) را وصله می‌کنند و این امر باعث می‌شود مهاجمان از «درب‌های پشتی» یا روش‌های جایگزین وارد شوند.
توصیه‌های امنیتی برای مدیران ارشد امنیت (CISO)
این حادثه هشدار مهمی برای سازمان‌هایی است که از پلتفرم‌های AI در زیرساخت‌های خود استفاده می‌کنند. کارشناسان توصیه می‌کنند:
- عدم اعتماد مطلق به اعلامیه‌های اصلاح: یک اعلان “Fixed” از سوی فروشنده به معنای رفع کامل ریسک نیست.
- درخواست تحلیل گونه‌ها (Variant Analysis): از ارائه‌دهندگان AI بخواهید توضیح دهند که اصلاحیه چگونه در برابر ویژگی‌های متصل و متقاطع تست شده است.
- گنجاندن تعهدات امنیتی در قراردادها: الزام ارائه‌دهندگان به ارسال اعلان‌های رگرسیون (Regression Notification) و گزارش‌های شفاف از آسیب‌پذیری‌ها.
- تست‌های مستقل: به جای تکیه بر گفته‌های فروشنده، پس از هر اصلاحیه، تست‌های بازبینی (Retest) را به صورت داخلی انجام دهید.
