در سال‌های اخیر، مجرمان سایبری برای تقویت کمپین‌های مخرب خود به ابزارهای هوش مصنوعی (AI) روی آورده‌اند. با این حال، تحلیل‌های جدید نشان می‌دهد که AI تغییرات بنیادینی در چشم‌انداز تهدیدات ایجاد نکرده و در بسیاری از موارد، حتی اثربخشی حملات را کاهش داده است.
پدیده AI Slop و خطاهای عملیاتی
اگرچه هوش مصنوعی سرعت و مقیاس‌پذیری حملات را افزایش داده است، اما تکیه بیش از حد برخی گروه‌ها به این ابزارها منجر به بروز خطاهای مکرر شده است؛ پدیده‌ای که تحت عنوان AI slop شناخته می‌شود. این تحلیل در بررسی بدافزارهای تولید شده توسط AI، مواردی را شناسایی کرده است که در آن‌ها کدها عملاً کار نمی‌کنند یا کامنت‌های موجود در کد با عملکرد واقعی بدافزار در تضاد است.
زوال کیفیت در حملات فیشینگ
تأثیر منفی AI در کمپین‌های فیشینگ (Phishing) و Business Email Compromise (BEC) نیز مشهود است. برای نمونه، فعالیت‌های عامل تهدید TA4903 بررسی شده است. این گروه که پیش‌تر با استفاده از طعمه‌های پیچیده و جعل هویت نهادهای دولتی آمریکا فعالیت می‌کرد، پس از به‌کارگیری ابزارهای AI، افت کیفیت شدیدی در طعمه‌های خود داشته است.
- عدم تطابق متن ایمیل با موضوع و فایل‌های پیوست.
- ارسال ایمیل‌هایی با بدنه کاملاً خالی.
- طراحی وب‌سایت‌های فیشینگ ساده و یکنواخت (Vibe Coded) که شناسایی آن‌ها برای کاربران آسان‌تر شده است.
- استفاده از گرامر و املای بیش از حد صحیح که باعث غیرطبیعی شدن پیام‌ها و کاهش باورپذیری آن‌ها می‌شود.
ضعف در اکسپلویت‌های تولید شده توسط AI
حتی در حوزه شناسایی و بهره‌برداری از آسیب‌پذیری‌ها، اکسپلویت‌های تولید شده توسط AI در مقایسه با کارهای انسانی نقاط ضعف جدی دارند. در تحلیل زنجیره اکسپلویت BlueMoon (که سه آسیب‌پذیری مرورگر Chrome را هدف قرار داده بود)، مشاهده شد که مهاجمان از مدل‌های زبانی بزرگ (LLMs) برای نوشتن کد بر اساس یادداشت‌های پَچ (Patch Notes) استفاده کرده‌اند.
نتیجه این اقدام، تولید اکسپلویت‌هایی بود که رفتاری غیرقابل‌پیش‌بینی داشتند و نویز (Noise) زیادی در شبکه ایجاد می‌کردند، که همین امر شناسایی سریع آن‌ها را توسط تیم‌های دفاعی (Defenders) تسهیل کرد.
نتیجه‌گیری: AI ابزاری برای بهره‌وری، نه پیچیدگی
این تحلیل تأکید می‌کند که هوش مصنوعی صرفاً یک ابزار بهره‌وری (Productivity Tool) است و به‌طور خودکار سطح پیچیدگی حملات را افزایش نمی‌دهد. در واقع، AI تنها به اندازه اپراتور خود کارآمد است و می‌تواند منجر به اشتباهات آماتورتر شود. بنابراین، استراتژی‌های دفاع سایبری اساساً تغییر نکرده‌اند؛ تنها تغییر اصلی این است که AI اکسپلویت کردن آسیب‌پذیری‌های قدیمی و شناخته‌شده را برای مهاجمان سریع‌تر و آسان‌تر کرده است.
