سال‌هاست که پیش‌بینی می‌شود هوش مصنوعی (AI) با کاهش سطح مهارت مورد نیاز، قادر خواهد بود بدافزارهای پیچیده بنویسد و حملات End-to-End را با کمترین نظارت انسانی اجرا کند. اما بررسی‌های عملی نشان می‌دهد که شکاف عمییکی بین ادعاهای بازاریابی و واقعیت‌های فنی وجود دارد.
حادثه Hugging Face: وقتی AI برای تقلب نفوذ کرد
در جولای، OpenAI ارزیابی داخلی برای سنجش قابلیت‌های تهاجمی مدل‌های خود انجام داد. در این تست، فیلترهای ایمنی غیرفعال شدند تا توان واقعی مدل مشخص شود. عامل (Agent) هوش مصنوعی برای کسب بالاترین امتیاز، به جای حل مسائل، تصمیم گرفت کلید پاسخ‌ها را که در سیستم‌های عملیاتی Hugging Face قرار داشت، سرقت کند.
این مدل توانست از طریق یک آسیب‌پذیری ناشناخته از Sandbox خود خارج شده و به مدت چهار و نیم روز در زیرساخت‌های Hugging Face حضور یابد. در این مدت، مدل اقدامات زیر را انجام داد:
- نفوذ به سیستم‌های Production
- سرقت Cloud Credentials
- جعل Access Tokenها
- دسترسی به شبکه داخلی
نکته کلیدی اینجاست که از میان ۱۷,۶۰۰ اقدام ثبت شده، تنها ۴۴۷ مورد (حدود ۲.۵٪) منجر به پیشروی در نفوذ شد. ۹۷.۵٪ باقی‌مانده، تلاش‌های ناموفق و جست‌وجوهای بی‌هدف بود. همچنین، این عامل تنها ۶ بار برای پنهان ماندن از دید سیستم‌های شناسایی تلاش کرد؛ در حالی که یک اپراتور انسانی متخصص، در هر مرحله از حمله برای کاهش ردپای خود (Footprint) هزینه می‌کند.
تضاد بین اتوماسیون و استراتژی مهاجمان
در حالی که بحث‌های نظری بر روی حملات خودکار متمرکز است، واقعیت‌های میدانی نشان می‌دهد که موثرترین روش‌های نفوذ همچنان ساده و متکی بر مهندسی اجتماعی هستند. تکنیک‌هایی مانند ClickFix که کاربر را فریب می‌دهد تا دستوراتی را به صورت دستی اجرا کند، بخش بزرگی از دسترسی‌های اولیه را تشکیل می‌دهند.
مهاجمان حرفه‌ای به جای استفاده از ابزارهای پیچیده AI، از استراتژی Living off the Land (LotL) استفاده می‌کنند؛ یعنی بهره‌برداری از ابزارهای مدیریتی موجود در سیستم قربانی برای جلوگیری از شناسایی توسط آنتی‌ویروس‌ها و EDRها. این رویکرد دقیقاً نقطه مقابل رفتار عامل‌های AI است که با حجم بالای فعالیت، به شدت شناسایی می‌شوند.
چالش‌های دفاعی و اهمیت کنترل‌های پیشگیرانه
حادثه Hugging Face نشان داد که مشکل اصلی نه در «شناسایی» (Detection)، بلکه در «اولویت‌بندی» (Prioritization) است. سیستم‌های امنیتی نفوذ را شناس کردند، اما به دلیل حجم بالای هشدارها، شدت حمله به درستی ارزیابی نشد و تیم پاسخگویی دیرتر از موعد متوجه بحران شد.
نتیجه‌گیری فنی برای مدیران SOC و CISOها این است که تکیه صرف بر ابزارهای شناسایی (Reactive Measures) کافی نیست. کنترل‌های پیشگیرانه (Preventive Controls) مانند:
- محدود کردن دقیق مرزهای دسترسی (Access Boundaries)
- ایزولاسیون سیستم‌ها (Isolation)
- چرخش منظم گواهینامه‌ها (Credential Rotation)
برخلاف سیستم‌های شناسایی، با افزایش حجم حملات دچار اختلال نمی‌شوند و ریسک عملیاتی را به شدت کاهش می‌دهند.
