در صنعت هوانوردی مفهومی به نام «کاهش هوشیاری» (Vigilance Decrement) وجود دارد؛ وضعیتی که در آن توجه مستمر یک کنترلر ترافیک هوایی تحت فشار کاری زیاد، به‌طور طبیعی کاهش می‌یابد و در نهایت منجر به نادیده گرفتن یک مورد حیاتی می‌شود. امروز، هوش مصنوعی (AI) تمامی کارکنان بخش دانش را در وضعیتی مشابه این کنترلرهای تحت فشار قرار داده است.
تغییر پارادایم: از تمرکز انسانی به سیستم‌های خودکار
هوانوردی برای حل این مشکل، از کارکنان نخواست که «بیشتر تمرکز کنند»، بلکه سیستمی ساخت که به‌طور مستقل نظارت کند و در صورت بروز تضاد، اولویت با ماشین باشد. برای مثال، سیستم‌های پیشگیری از برخورد (Collision-Avoidance System) بر اساس داده‌های قطعی و محاسباتی عمل می‌کنند، نه بر اساس حدس یا تحلیل نیت. قانون طلایی در کابین خلبان این است: «وقتی انسان و ماشین اختلاف نظر دارند، از ماشین پیروی کنید.»
چرا امنیت سایبری در مسیر متفاوتی است؟
در حالی که هوانوردی به ماشین‌های «ساده اما قطعی» اعتماد کرد، امنیت سایبری برای ۳۰ سال بر این فرض استوار بود که آخرین خط دفاعی، انسانی است که متوجه اشتباه بودن یک پیام می‌شود. اما AI این استراتژی را به دو دلیل شکست می‌دهد:
- حذف نشانه‌های شناسایی: AI هزینه کمپین‌های فیشینگ (Phishing) را تا ۹۵ درصد کاهش داده و در عین حال، کیفیت پیام‌ها را به سطح تیم‌های انسانی متخصص رسانده است. دیگر خبری از غلط‌های املایی یا ساختارهای ناشیانه برای شناسایی حملات نیست.
- اشباع توجه: همان «کاهش هوشیاری» در هوانوردی، اکنون در اینباکس کاربران رخ می‌دهد. از یک کاربر تحت فشار خواسته می‌شود تا یک پیام مخرب را در میان انبوهی از ارتباطات شناسایی کند؛ کاری که ثابت شده انسان‌ها در آن شکست می‌خورند.
راهکار: تمرکز بر نقاط اثرگذاری بالا
به جای تکیه بر هوشیاری کاربر، باید کنترل‌هایی طراحی کرد که بر اساس «اتفاق» (Event) عمل کنند، نه بر اساس «تفسیر انسانی». برای مثال، در حملات BEC (Business Email Compromise) که خسارات میلیاردی به بار می‌آورند، باید مکانیسم‌های سخت‌افزاری یا رویه‌ای جایگزین شوند:
- اجباری کردن تماس تلفنی با شماره‌های شناخته شده برای تغییر جزئیات بانکی.
- اعمال کنترل دوگانه (Dual Control) برای تراکنش‌های مالی.
- تعیین سقف پرداخت (Hard Threshold) که فراتر از آن، تراکنش به‌طور خودکار متوقف شود.
نتیجه‌گیری برای مدیران امنیت
سیستم‌های تشخیص مبتنی بر AI که سعی می‌کنند «نیت» مهاجم را حدس بزنند، هنوز به سطح اعتماد سیستم‌های هوانوردی نرسیده‌اند، زیرا احتمال خطای آن‌ها (False Positive) می‌تواند باعث توقف عملیات تجاری شود. تا زمانی که این سیستم‌ها به دقت و اعتماد لازم برسند، تنها راه نجات، حذف وابستگی به «آخرین خط دفاع انسانی» و جایگزینی آن با کنترل‌های سخت‌گیرانه در نقاط حساس (Critical Points) است.
