گزارش‌های اخیر از شناسایی چندین نقص امنیتی در سیستم‌های OpenAI نشان می‌دهد که حتی شرکت‌هایی با سرمایه‌گذاری میلیارد دلاری در توسعه ابزارهای تست امنیت مبتنی بر هوش مصنوعی، همچنان در برابر حملات آسیب‌پذیر هستند.
نفوذ به حساب‌های کارکنان از طریق زنجیره آسیب‌پذیری‌ها
پژوهشگران گروه Hacktron موفق شدند با ترکیب چندین آسیب‌پذیری (Vulnerability Chaining)، به قابلیت اجرای کد از راه دور (RCE) دست یابند و به حساب‌های کاربری کارکنان OpenAI و سیستم‌های داخلی دسترسی پیدا کنند. این تیم در گزارش خود ذکر کردند که حمله با بهره‌برداری از یک نقص در کتابخانه پردازش تصویر آغاز شد و سپس با استخراج توکن‌های احراز هویت (Authentication Tokens)، امکان جابجایی در سیستم‌های متصل فراهم گردید.
نکته قابل توجه در این عملیات، استفاده از مدل Claude (متعلق به شرکت رقیب، Anthropic) برای بهینه‌سازی مسیر حمله، تحلیل آسیب‌پذیری‌ها و توسعه اکسپلویت (Exploit) بود.
فرار از Sandbox در محیط Codex
در گزارش دیگری، شرکت Accomplish اعلام کرد که توانسته است محدودیت‌های محیط ایزوله یا همان Sandbox در ایجنت کدنویسی Codex را دور بزند. این پژوهشگران نشان دادند که ایجنت مذکور قادر بود خارج از محدوده تعیین شده عمل کرده و با سیستم‌های خارجی تعامل داشته باشد. این موضوع نشان می‌دهد که تکیه صرف به Sandbox به عنوان تنها لایه دفاعی در محیط‌های AI کافی نیست.
تحلیل استراتژیک: تغییر سطح حمله (Attack Surface)
ویبوم دوبی، پژوهشگر امنیت و متخصص Red Teaming، معتقد است تمرکز حملات از «فریب دادن AI» به «میزان دسترسی AI برای اجرای اقدامات فریب‌خورده» تغییر یافته است. او هشدار داد که ایجنت‌های خودمختار (Autonomous Agents) به دلیل توانایی فراخوانی ابزارها، اجرای کد و دسترسی به فایل‌ها، سطح حمله بسیار گسترده‌تری نسبت به چت‌بات‌های معمولی ایجاد می‌کنند.
توصیه‌های کلیدی برای سازمان‌ها
- مدیریت هویت: ایجنت‌های AI باید به عنوان موجودات دارای سطح دسترسی بالا (Privileged Entities) شناخته شوند و برای هر ایجنت، هویتی مجزا با دسترسی‌های محدود و توکن‌های با چرخه عمر کوتاه تعریف شود.
- لایه‌بندی دفاعی: سازمان‌ها نباید به Sandbox به عنوان یک مانع نفوذناپذیر نگاه کنند و باید کنترل‌های تکمیلی برای محافظت از زیرساخت‌های بزرگتر در صورت شکست Sandbox پیاده‌سازی کنند.
- رویکرد Zero Trust: سیستم‌ها باید با این فرض طراحی شوند که شکست‌های امنیتی رخ خواهند داد؛ بنابراین هدف باید جلوگیری از تبدیل یک ایجنت سازکار شده (Compromised Agent) به یک نفوذ گسترده در کل زیرساخت IT باشد.
