هوش مصنوعی (AI) امروزه نحوه جستجو، ارتباطات و تصمیم‌گیری‌های دیجیتال ما را شکل می‌دهد. اما زمانی که این فناوری دچار خطا یا سوءاستفاده می‌شود، دقیقاً چگونه به کاربران آسیب می‌رساند؟ طبقه‌بندی جدید آسیب‌های هوش مصنوعی (AI Harms Taxonomy) که توسط F-Secure ارائه شده است، ۲۶ نوع آسیب متمایز را برای مصرف‌کنندگان ترسیم کرده و مسیر رسیدن هر یک از آن‌ها به کاربر را تحلیل می‌کند.
این پژوهش که توسط دکتر مگان اسکوایر (Dr. Megan Squire)، پژوهشگر ارشد هوش تهدید (Threat Intelligence) انجام شده، شکاف موجود در بحث‌های مربوط به ریسک‌های هوش مصنوعی را پر می‌کند. برخلاف چارچوب‌های معمول که تنها به فهرست کردن پتانسیل‌های خطا بسنده می‌کنند، این مدل با نقشه‌برداری از تمامی لایه‌های بین یک تهدید مبتنی بر هوش مصنوعی و تأثیر آن بر کاربر، نقاط دقیق مداخله دفاعی را مشخص می‌کند.
تغییر ماهیت تهدیدات در عصر هوش مصنوعی
با ورود هوش مصنوعی به چرخه تصمیم‌گیری، ماهیت تهدیدات تغییر کرده است. در گذشته، مهاجم مستقیماً کاربر را هدف قرار می‌داد، اما اکنون هوش مصنوعی به عنوان یک واسطه (Intermediary) عمل می‌کند. یک دستیار هوشمند (AI Assistant) می‌تواند برای انجام اقدامات مخرب فریب بخورد و یک چت‌بات (Chatbot) می‌تواند با اطمینان کامل، اطلاعات گمراه‌کننده ارائه دهد. این مشکلات اغلب از نحوه مدیریت دستورالعمل‌ها (Instructions) و حافظه (Memory) توسط هوش مصنوعی یا سرویس‌های متصل به آن نشأت می‌گیرد.
این تحقیق، ۲۶ آسیب را در قالب ۵ نوع رابطه و ۱۹ لایه واسطه بررسی کرده و ۲۴ راهکار دفاعی برای مقابله با این ریسک‌ها پیشنهاد می‌دهد. نمونه‌هایی از این آسیب‌ها شامل موارد زیر است:
- جعل هویت صوتی و ویدئویی (Voice and Video Impersonation) توسط هوش مصنوعی.
- اتخاذ تصمیمات مالی مخرب توسط عوامل خودکار (Autonomous Agents).
- افشای اطلاعات شخصی یا عمل بر اساس بافتار (Context) قدیمی و نادرست.
- حملات تزریق دستورالعمل (Prompt Injection) که در آن دستورات مخرب در محتوای پردازش‌شده توسط سیستم پنهان می‌شوند.
توزیع مسئولیت در امنیت هوش مصنوعی
یکی از یافته‌های کلیدی این تحلیل، توزیع مسئولیت در جلوگیری از آسیب‌های هوش مصنوعی است. برخلاف تصور عمومی که امنیت را تنها بر عهده کاربر می‌داند، این پژوهش تأکید می‌کند که مسئولیت در چندین سطح تقسیم شده است:
- سطح کاربر: استفاده از نرم‌افزارهای امنیتی روی دستگاه‌های شخصی.
- سطح توسعه‌دهنده: شرکت‌های سازنده محصولات هوش مصنوعی باید امنیت لایه‌های زیرساختی، نحوه مدیریت حافظه و اتصال به سرویس‌های جانبی را تضمین کنند.
با حرکت هوش مصنوعی از مرحله تولید اطلاعات به مرحله اقدام (Acting)، اهمیت این موضوع دوچندان می‌شود. یک چت‌بات که پاسخ اشتباه می‌دهد ممکن است کاربر را گمراه کند، اما یک عامل خودکار (Agent) که به حساب‌های کاربری و سرویس‌های متصل به آن‌ها دسترسی دارد، می‌تواند بدون تعامل مستقیم با کاربر، پیامدهای جبران‌ناپذیری ایجاد کند. بنابراین، لایه‌های حفاظتی باید فراتر از بررسی محتوا، در لایه عملکردی این سیستم‌ها نیز پیاده‌سازی شوند.
