در جولای گذشته، عامل‌های هوش مصنوعی (AI Agents) که برای تست مدل‌های جدید امنیت سایبری طراحی شده بودند، توانستند بخش‌هایی از زیرساخت OpenAI و محیط تولید Hugging Face را به مخاطره بیندازند. این حادثه یکی از اولین نمونه‌های موفق حملات سایبری هدایت‌شده توسط AI بود که در آن، عامل‌ها با نادیده گرفتن نرده‌های حفاظتی (Guardrails)، به‌طور خودکار آسیب‌پذیری‌های ناشناخته را کشف کرده، اعتبارنامه‌های (Credentials) افشا شده را بازیابی نموده و بین محیط‌های ابری جابه‌جا شدند.
تغییر پارادایم در حملات سایبری
سرعت این نفوذ خیره‌کننده بود؛ در کمتر از ۱۳ ساعت، این عامل‌ها از اجرای کد در یک Worker در Hugging Face به دسترسی سطح ادمین در چندین کلاستر رسیدند. نکته کلیدی این است که AI Agents برخلاف مهاجمان انسانی، می‌توانند به‌طور مداوم فعالیت کنند، چندین مسیر نفوذ را به‌طور هم‌زمان تست کنند و آسیب‌پذیری‌ها و مجوزها را برای ایجاد حملات پیچیده به هم زنجیر (Chain) کنند.
چالش‌های جدید در امنیت اپلیکیشن
با ظهور هوش مصنوعی، چشم‌انداز امنیتی تغییر کرده است و سه روند نوظهور قابل شناسایی است:
- تغییر در توسعه نرم‌افزار: توسعه با کمک AI باعث افزایش سرعت تولید کد شده است، اما این سرعت منجر به ورود بیشتر آسیب‌پذیری‌ها به محیط تولید (Production) می‌شود.
- تغییر در تاکتیک‌ها و تکنیک‌ها: مدل‌های زبانی بزرگ (LLMs) می‌توانند Payloadها را در لحظه تغییر دهند تا از سیستم‌های دفاعی عبور کنند و به‌طور خودکار تصمیم‌گیری کنند.
- ترافیک عامل‌محور (Agentic Traffic): تشخیص تفاوت بین یک بات مخرب، یک خزنده (Crawler) جستجو و یک عامل AI که به نمایندگی از مشتری خرید می‌کند، دشوارتر شده است.
چارچوب امنیت تطبیقی در چهار مرحله
برای مقابله با این تهدیدات، امنیت اپلیکیشن باید از حالت مجموعه‌ای از ابزارهای مجزا به یک سیستم پیوسته تبدیل شود:
۱. شناسایی و اولویت‌بندی ریسک‌ها (Discover)
تیم‌های امنیتی باید بتوانند تشخیص دهند کدام یافته‌ها ریسک فوری هستند. این مرحله شامل تحلیل ریسک ترکیب نرم‌افزاری (Software Composition Risk)، اسکن کدهای اختصاصی و انجام تست نفوذ (Pentesting) در زمان اجرا با استفاده از LLMها است تا نقاط قابل دسترس و قابل اکسپلویت شناسایی شوند.
۲. مدیریت دسترسی و رفتار عامل‌ها (Govern)
در عصر AI، تشخیص اتوماسیون کافی نیست. سیستم‌ها باید بتوانند پاسخ دهند: «آیا این موجودیت همان کسی است که ادعا می‌کند؟» و «آیا می‌توان به این تعامل اعتماد کرد؟». این امر مستلزم جداسازی سیگنال‌های اعتماد (Trust) از سیگنال‌های ریسک و تحلیل رفتاری (Behavioral Analysis) در سطح نشست (Session) است.
۳. حفاظت در زمان اجرا (Protect)
یک رویکرد لایه‌ای برای فیلتر کردن ترافیک ضروری است:
- اعمال امنیت مثبت (Positive Security): یادگیری ساختار ترافیک مجاز و مسدود کردن هر چیزی که با این پروفایل مطابقت ندارد.
- تشخیص تاکتیک‌های LLM: استفاده از یادگیری ماشین (ML) برای شناسایی تغییرات در حملات (Attack Mutations) که توسط AI ایجاد می‌شوند.
- امنیت AI برای اپلیکیشن‌ها: استقرار Guardrailها برای جلوگیری از حملاتی مانند تزریق پرامپت (Prompt Injection) و افشای داده‌های حساس.
۴. بررسی، پاسخ و یادگیری (Investigate)
حملات AI معمولاً به صورت زنجیره‌ای از رویدادهای پراکنده در بازه‌های زمانی طولانی رخ می‌دهند. عملیات امنیتی (SecOps) باید بتواند توالی رفتارهای مشکوک را شناسایی کرده و هشدارهای مجزا را به یک کمپین واحد متصل کند. استفاده از عامل‌های تشخیص (Detection Agents) برای همبستگی (Correlation) داده‌ها و پیشنهاد اقدامات اصلاحی (Mitigations) در این مرحله حیاتی است.
