عدم قطعیت در حوزه هوش مصنوعی (AI) نباید به عنوان دلیلی برای توقف یا تأخیر در تصمیم‌گیری‌های استراتژیک تلقی شود؛ بلکه یک ضرورت استراتژیک است تا سازمان‌ها ساختارهای انعطاف‌پذیری ایجاد کنند که بتوانند با اطمینان نوآوری کرده، ریسک‌ها را به صورت متناسب مدیریت کنند و با تکامل فناوری و تهدیدات، واکنش‌های موثر نشان دهند.
تله واکنش‌های احساسی در برابر نوآوری
رهبران امنیت باید از دو تکانه خطرناک دوری کنند: واکنش بیش از حد به هر خبر جدید یا سکون کامل در انتظار حل مناقشات نظری پیرامون AI. تمرکز باید بر انعطاف‌پذیری (Adaptability) باشد؛ یعنی حفظ یک زیربنای امنیتی پایدار در حالی که نحوه به‌کارگیری این زیربنا با تغییرات فناوری تطبیق می‌یابد.
حاکمیت مبتنی بر ریسک (Risk-Based Governance)
به جای تمرکز بر نو بودن یک ابزار AI، سازمان‌ها باید بر موارد زیر تمرکز کنند:
- این ابزار به چه داده‌هایی دسترسی دارد؟
- چه مجوزهایی برای عملیات دارد؟
- پیامدهای رفتارهای غیرمنتظره یا خطاهای احتمالی آن چیست؟
در این مدل، شدت کنترل‌های امنیتی باید متناسب با میزان خودمختاری (Autonomy)، سطح دسترسی و اثرات احتمالی هر مورد استفاده (Use Case) افزایش یابد.
ضرورت ایجاد نرده‌های حفاظتی (Guardrails)
هوش مصنوعی یک فناوری دو منظوره (Dual Use) است. همان پیشرفت‌هایی که به مدافعان برای تحلیل سریع‌تر تهدیدات کمک می‌کند، می‌تواند سرعت عملیات مهاجمان را نیز افزایش دهد. بنابراین، ایجاد نرده‌های حفاظتی که متناسب، قابل راستی‌آزمایی و متمرکز بر ریسک‌های قابل اندازه‌گیری باشند، ضروری است. هدف باید ایجاد رقابتی برای دستیابی به امنیت قوی‌تر باشد که نیازمند همکاری نزدیک بین توسعه‌دهندگان مدل‌های Frontier AI، متخصصان امنیت سایبری و سیاست‌گذاران است.
مدیریت تهدیدات فعلی در مقابل پیش‌بینی‌های آینده
بسیاری از بحث‌ها بر روی نسل‌های آینده AI متمرکز است، اما واقعیت این است که ابزارهای فعلی همین حالا در حال تغییر نحوه ارتباطات و تصمیم‌گیری‌ها در سازمان‌ها هستند. حتی اگر توسعه مدل‌های پیشرو متوقف شود، چالش‌های امنیتی فعلی همچنان باقی خواهند ماند، از جمله:
- شناسایی استفاده‌های غیرمجاز از AI (Shadow AI)
- درک داده‌هایی که با سرویس‌های خارجی به اشتراک گذاشته می‌شوند
- ارزیابی یکپارچگی‌ها (Integrations)، مجوزها و هویت‌ها
- مانیتورینگ سوءاستفاده‌ها و آمادگی برای خطاهای سیستمی
پایداری اصول بنیادین امنیت
تغییرات سریع AI، اصول بنیادین امنیت سایبری را تغییر نمی‌دهد. همان‌طور که در انتقال به Cloud Security شاهد بودیم، راهکار در مواجهه با هر اپلیکیشن جدید به عنوان یک بحران استراتژیک نیست، بلکه تطبیق مدل‌های امنیتی از طریق ایجاد Visibility (دید) جدید و کنترل‌های به‌روز شده است. در عصر AI، انعطاف‌پذیری با Visibility گره خورده است؛ تیم‌های امنیتی نمی‌توانند ریسکی را مدیریت کنند که از وجود و نحوه استفاده از آن در سازمان بی‌اطلاع باشند.
نتیجه‌گیری: استراتژی امنیتی نباید با هر تیتر خبری تغییر کند، بلکه باید به گونه‌ای طراحی شود که قابلیت تطبیق داشته باشد. اصول اولیه همچنان ثابت هستند: شناسایی آنچه در محیط فعال است، درک سطح دسترسی‌ها، اعمال کنترل بر اساس ریسک، مانیتورینگ مستمر و آمادگی برای شکست.
