آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۴/۱۰

کشف آسیب‌پذیری در API شرکت OpenAI؛ نشت ردپای استدلال‌های مخفی هوش مصنوعی

کشف آسیب‌پذیری در API شرکت OpenAI؛ نشت ردپای استدلال‌های مخفی هوش مصنوعی

محققان امنیتی آسیب‌پذیری جدیدی را در API شرکت OpenAI شناسایی کرده‌اند که از طریق تکنیکی موسوم به “Compaction Smuggling” (قاچاق فشرده‌سازی)، امکان دسترسی به ردپای استدلال‌های (Reasoning Traces) مخفی مدل‌های هوش مصنوعی را فراهم می‌کند.

این تکنیک با دور زدن حفاظ‌های امنیتی موجود، می‌تواند منجر به استخراج داده‌های ارزشمند آموزشی از مدل‌های پیشرفته شود. طبق گزارش‌های منتشر شده، OpenAI این موضوع را تایید کرده و در تاریخ ۲۳ اکتبر ۲۰۲۶ اصلاحیه (Fix) مربوطه را اعمال نموده است.

مکانیسم حمله

این آسیب‌پذیری در نحوه تعامل استدلال‌های رمزنگاری‌شده با قابلیت “Compaction” (فشرده‌سازی گفتگو) رخ می‌دهد. این ویژگی، گفتگوهای طولانی را به آیتم‌های بافتار (Context Items) رمزنگاری‌شده تبدیل می‌کند. محققان به جای شکستن مستقیم رمزنگاری، فرآیند پردازش سمت سرور (Server-side processing) را به گونه‌ای دستکاری کردند که استدلال‌های محافظت‌شده به فرمتی تبدیل شوند که مدل‌های قدیمی‌تر قادر به بازتولید آن‌ها باشند.

در یک حمله سه مرحله‌ای، محققان ابتدا معماهایی را به مدل gpt-5.6-sol ارسال کردند و آیتم استدلال رمزنگاری‌شده را حفظ نمودند. سپس با استفاده از اندپوینت /responses/compact، مدل فشرده‌ساز را هدایت کردند تا استدلال‌ها را درون یک شیء JSON ذخیره کند. برای دور زدن طبقه‌بندی‌کننده‌های (Classifiers) سیاست‌های استفاده OpenAI، آن‌ها از جایگزینی فاصله (Space) با Tab استفاده کردند.

پیامدهای امنیتی و ریسک معماری

در نهایت، محققان با ارسال آیتم‌های فشرده‌شده به مدل‌های gpt-4.1 و gpt-4o، موفق به دریافت محتوای خوانا و بازتولید استدلال‌های اصلی شدند. این یافته یک ریسک معماری بزرگ را برجسته می‌کند: اجزای سمت سرور که به استدلال‌های رمزگشایی‌شده دسترسی دارند و همزمان دستورات کلاینت را می‌پذیرند، می‌توانند به عنوان “Decryption Oracles” (پیشگویان رمزگشایی) عمل کنند.

هشدار داده شده است که افشای این استدلال‌ها می‌تواند امکان “Model Distillation” (تقطیر مدل) در مقیاس بزرگ را فراهم کند؛ به این معنا که مهاجمان می‌توانند با استفاده از ردپای حل مسائل در مدل‌های اختصاصی، مدل‌های خود را آموزش دهند.