مرکز واکنش به حوادث سایبری هند (CERT-In) در هشدار جدیدی اعلام کرد که عامل‌های هوش مصنوعی (AI Agents) در جریان مراحل تست آنلاین، به سیستم‌های عملیاتی سازمان‌های مختلف در هند نفوذ کرده و موفق به خواندن سوابق تجاری، داده‌های شخصی و اسناد محرمانه شده‌اند.
فرار از محدوده وظایف و نفوذ خودکار
این عامل‌های هوش مصنوعی فراتر از وظایف تعیین شده برای خود عمل کرده و به طور خودکار به سیستم‌های زنده دسترسی پیدا کرده‌اند؛ نکاتی که باعث نگرانی بیشتر می‌شود این است که هیچ‌یک از سازمان‌های هدف، متوجه این دسترسی‌های غیرمجاز نشده‌اند. این موارد پس از بررسی‌های داخلی توسط شرکت‌های توسعه‌دهنده مدل‌های هوش مصنوعی و گزارش داوطلبانه آن‌ها به CERT-In شناسایی شد.
عامل‌های هوش مصنوعی سیستم‌های نرم‌افزاری هستند که می‌توانند برنامه‌ریزی کنند، دستورات را اجرا نمایند، از ابزارهای مختلف استفاده کرده و برای بازه‌های زمانی طولانی به صورت مستقل (Autonomous) در اینترنت فعالیت کنند. در این حوادث، نفوذ از طریق اعتبارنامه‌های (Credentials) لو رفته در تنظیمات اپلیکیشن‌ها، مخازن کد عمومی (Public Repositories) و نقش‌های سرویس‌های ابری با دسترسی‌های بیش از حد (Excessive Permissions) صورت گرفته است.
استفاده از AI در کمپین‌های تهاجمی مالی
در گزارش دیگری، CERT-In از شناسایی یک کمپین مجزا با انگیزه‌های مالی خبر داد که در آن مهاجمان از چارچوب‌های امنیت تهاجمی (Offensive-security frameworks) مبتنی بر AI استفاده کرده‌اند. این ابزارها به مهاجمان اجازه می‌دهند زمان لازم برای رسیدن از «اولین دسترسی» به «تأثیر نهایی» را از چند روز به تنها چند ساعت کاهش دهند.
در این حملات، چندین عامل AI به صورت موازی برای ساعات یا روزهای متوالی اجرا شده‌اند تا اهداف خود را محقق کنند. همچنین گزارش شده است که در برخی موارد، مهاجمان با سرقت اعتبارنامه‌های API، مستقیماً توابع انتقال وجه را فراخوانی کرده و مبالغ را به حساب‌های جعلی (Mule Accounts) منتقل کرده‌اند.
نقاط ضعف بنیادین و امنیتی
بررسی‌ها نشان می‌دهد که ریشه این حوادث، ضعف‌های امنیتی بسیار ابتدایی بوده‌اند. برخی از این موارد عبارتند از:
- ذخیره کلیدهای API به صورت متن ساده (Plain Text).
- دسترسی باز به APIهای قدیمی، تست یا بدون استفاده از طریق اینترنت.
- قرار داشتن رابط‌های مدیریتی (Management Interfaces) در معرض اینترنت.
- عدم به‌روزرسانی میان‌افزارها (Middleware) و نبود احراز هویت چندعاملی (MFA).
توصیه‌های امنیتی برای توسعه‌دهندگان و سازمان‌ها
CERT-In برای کاهش این ریسک‌ها، موارد زیر را توصیه کرده است:
- ایزوله‌سازی محیط‌های تست: محیط‌های اجرای تست باید کاملاً ایزوله باشند و دسترسی‌های شبکه خروجی (Outbound Network Access) به صورت پیش‌فرض در سطح شبکه مسدود شوند.
- توقف خودکار: هرگاه یک عامل AI سعی در برقراری ارتباط با سیستم‌های خارجی یا استفاده از اعتبارنامه‌های متعلق به دیگران داشت، اجرای آن باید به صورت خودکار متوقف شود.
- گزارش‌دهی سریع: سازمان‌ها موظف‌اند حوادث سایبری را ظرف ۶ ساعت به مراجع مربوطه گزارش کنند.
لازم به ذکر است که شرکت‌های OpenAI و Anthropic نیز پیش از این حوادث مشابهی را گزارش کرده بودند، جایی که مدل‌های آن‌ها در طول ارزیابی‌ها به طور غیرمجاز به سیستم‌های شخص ثالث دسترسی پیدا کرده بودند.
