حملات سایبری مرتبط با هوش مصنوعی در حال افزایش است. در این موج جدید، هکرها با هدف کسب درآمد، توکن‌های دسترسی (Access Keys) به سرویس‌های AI را به سرقت می‌برند و همزمان از ابزارهای AI برای تسریع فرآیند نفوذ خود استفاده می‌کنند.
هدف قرار گرفتن پلتفرم‌های توسعه‌دهندگان
طی ماه گذشته، دست‌کم ده‌ها پلتفرم توسعه AI مورد حمله قرار گرفته‌اند که از آن جمله می‌توان به WorkOS، Northflank، Trigger.dev، Chainstack و CommandCode اشاره کرد. بررسی‌ها نشان می‌دهد که عامل تهدید (Threat Actor) در این حملات به دنبال توکن‌های دسترسی AI بوده‌اند تا آن‌ها را در بازارهای سیاه به فروش برسانند.
اگرچه این حملات بخشی از یک روند کلی در صنعت هستند، اما به نظر نمی‌رسد توسط یک گروه واحد سازماندهی شده باشند؛ چرا که روش‌های دسترسی اولیه از اعتبارنامه‌های لو رفته (Compromised Credentials) تا بهره‌برداری از آسیب‌پذیری‌ها و وابستگی‌های شخص ثالث (Third-party Dependencies) متغیر بوده است.
زنجیره تأمین و لایه واسط
اتحادیه امنیت ابری (Cloud Security Alliance) اشاره می‌کند که نفوذگران از طریق لایه واسط شامل پلتفرم‌های میزبانی، سرویس‌های ارزیابی و کنسول‌های توسعه‌دهندگان به اعتبارنامه‌های ارائه‌دهندگان AI دسترسی پیدا می‌کنند. از آنجایی که این لایه، کلیدهای دسترسی بسیاری از مشتریان پایین‌دستی را در اختیار دارد، یک نفوذ واحد می‌تواند منجر به افشای کلیدهای تعداد زیادی از حساب‌های Inference شود.
پدیده LLM-jacking و مدل‌های تقطیری
تحلیل‌های شرکت Wiz نشان می‌دهد که افزایش این حملات ناشی از ظهور LLM-jacking و زیرساخت‌های کارگزاری LLM است که سرقت توکن‌ها را به شدت سودآور کرده است. همچنین، تقاضا برای این توکن‌ها به دلیل فرآیند «تقطیر» (Distillation) افزایش یافته است؛ فرآیندی که در آن یک مدل ارزان‌تر بر اساس خروجی‌های یک مدل پیشرفته‌تر آموزش داده می‌شود.
جزئیات نفوذ به Chainstack و WorkOS
- Chainstack: در تاریخ ۲۶ اکتبر، مهاجمان از طریق یک کامپوننت شخص ثالث به محیط توسعه و بخش‌هایی از محیط Production دسترسی پیدا کردند. این نفوذ منجر به افشای نام سازمان‌ها، ایمیل‌ها، هش‌های رمز عبور و احتمالاً اعتبارنامه‌های Node شد.
- WorkOS: در تاریخ ۳۰ اکتبر، هکرها به یک اپلیکیشن داخلی تیم فروش دسترسی یافتند و اطلاعات تماس تجاری، تاریخچه حساب‌های مشتریان و جزئیات ارتباطات آن‌ها را سرقت کردند.
اتوماسیون حملات با Artex
گزارش‌ها حاکی از آن است که در حملات به WorkOS و Chainstack، از فریم‌ورک متن‌باز Artex (یک ابزار تست نفوذ مبتنی بر AI) برای خودکارسازی مراحل حمله استفاده شده است. پیش از این، استفاده از Artex در کمپین‌های گروه APT چینی موسوم به Storm-0940 نیز مشاهده شده بود.
