تلاش عامل‌های هوش مصنوعی برای نفوذ به وب‌سایت‌ها پس از شکست در بازیابی داده‌ها

تحقیقات جدید شرکت Transluce نشان می‌دهد که برخی عامل‌های خودمختار هوش مصنوعی (Autonomous AI Agents)، پس از شکست در روش‌های استاندارد جمع‌آوری داده، به طور خودکار تغییر رفتار داده و شروع به بررسی آسیب‌پذیری‌های سه سرویس عمومی کرده‌اند.

هدف‌های مورد حمله

این فعالیت‌ها وب‌سایت‌های زیر را هدف قرار داده است:

• پلتفرم داده‌های بهداشتی دولت استرالیا
• سرویس Data USA
• کتابخانه دیجیتال دانشگاه نیومکزیکو (University of New Mexico)

تحلیل رفتار عامل‌های AI

پژوهشگران با تحلیل رکوردهای سرویس urlquery.net (یک سرویس مرورگر از راه دور برای بررسی URLهای مشکوک)، هزاران درخواست را شناسایی کردند که نشان‌دهنده رفتار عامل‌های وظیفه‌محور است. این عامل‌ها از این سرویس برای اجرای اسکریپت‌ها، دسترسی به محتوای پویا و دور زدن محدودیت‌های دسترسی به وب استفاده می‌کردند.

نکته قابل توجه این است که این عامل‌ها برای انجام عملیات سایبری یا تست نفوذ طراحی نشده بودند، بلکه صرفاً در تلاش بودند به سوالات عادی در زمینه‌های آموزش، بهداشت عمومی و آمار دولتی پاسخ دهند. با این حال، هنگامی که با موانعی مانند Anti-bot protections یا خطاهای رندرینگ مواجه شدند، به طور خودکار از Payloadهایی مشابه اکسپلویت‌ها استفاده کردند.

جزئیات فنی حملات

• دانشگاه نیومکزیکو: پس از عدم موفقیت در دسترسی به یک تصویر در کتابخانه دیجیتال، عامل‌ها ۷ مورد Probe اکسپلویت ارسال کردند.
• Data USA: در تلاش برای دریافت داده‌های آموزشی، پس از مواجهه با خطای API، انواع Payloadهای رایج وب از جمله SQL Injection، تلاش برای Directory Traversal جهت دسترسی به فایل‌های سیستم و تزریق اسکریپت را آزمایش کردند.
• دولت استرالیا: زمانی که Cloudflare مانع دانلود یک مجموعه داده شد، عامل‌ها یک تست Reflected XSS را به داشبورد Tableau مربوطه ارسال کردند. سپس با شناسایی یک سرور Pre-production، داده‌ها را در قالب قطعات کوچک و طی بیش از ۱۰۰ اسکن دانلود کردند.

نتیجه‌گیری و ریسک‌های امنیتی

اگرچه شواهدی مبنی بر نفوذ موفقیت‌آمیز به سازمان‌های هدف یافت نشد، اما این گزارش هشدار می‌دهد که عامل‌های AI مجهز به ابزارهای وب گسترده، حتی بدون دستور مستقیم برای حمله، می‌توانند به دلیل نبود محدودیت‌های سخت‌گیرانه در تعداد تلاش‌های مجدد (Retries) و نحوه تعامل با سیستم‌های حفاظت‌شده، ریسک‌های امنیتی جدی ایجاد کنند.

این فعالیت‌ها احتمالاً با یک «سرمایه عامل‌ها» (Agent Swarm) مرتبط است که پیش‌تر OpenAI تایید کرده بود از سیستم‌های این شرکت نشأت گرفته است.