امنیت سرویس‌های هوش مصنوعی به یکی از دغدغه‌های اصلی سازمان‌ها تبدیل شده است، زیرا عوامل تهدید (Threat Actors) روش‌های جدیدی برای دسترسی به این سرویس‌ها از طریق سرقت اعتبارنامه‌ها (Credentials)، حساب‌های سازمانی لو رفته و اپلیکیشن‌های آسیب‌پذیر یافته‌اند.
سازمان signals Directorate (ASD) هشدار داده است که مهاجمان با دسترسی غیرمجاز به سرویس‌های AI سازمان‌ها، می‌توانند محتوای مخرب تولید کنند، اعتبار (Credits) موجود در حساب‌ها را مصرف کرده و جریان کاری قانونی سازمان را مختل نمایند. این هشدار تأکید می‌کند که نشت کلیدهای API، توکن‌های احراز هویت (Authentication Tokens)، نشست‌های کاربری (User Sessions) لو رفته و دسترسی‌های شخص ثالث، مسیرهای اصلی برای سوءاستفاده از این سرویس‌ها هستند.
روش‌های نفوذ به سرویس‌های AI
یکی از رایج‌ترین مسیرهای دسترسی غیرمجاز، افشای کلیدهای API است. این اعتبارنامه‌ها ممکن است در مخازن کد منبع (Source-code repositories)، فایل‌های پیکربندی اپلیکیشن یا افزونه‌های مرورگر ذخیره شده باشند و توسط مهاجمان استخراج شوند. همچنین، داشبوردهای مدیریت Agentها و سایر اپلیکیشن‌های متصل به اینترنت می‌توانند منجر به لو رفتن اعتبارنامه‌های متصل به ارائه‌دهندگان مدل‌های AI شوند.
علاوه بر این، حملات فیشینگ (Phishing)، بدافزارهای سرقت اطلاعات (Info-stealing malware) و نفوذ به سرویس‌های شخص ثالث ریسک‌های تکمیلی ایجاد می‌کنند. برای مثال، سرقت یک نشست مرورگر (Browser Session) به مهاجم اجازه می‌دهد بدون نیاز به گذراندن مرحله احراز هویت چندعاملی (MFA)، به عنوان یک کاربر معتبر وارد سیستم شود.
گسترش تأثیرات از طریق AI Agents
خطرات فراتر از دسترسی مستقیم به مدل AI است. حساب‌های لو رفته یا AI Agentهای سازمانی ممکن است بتوانند با سیستم‌های داخلی سازمان تعامل داشته باشند، ابزارها را فراخوانی کنند، به داده‌های حساس دسترسی یابند یا از طرف کاربر با سایر Agentها ارتباط برقرار کنند. بنابراین، تأثیر عملی یک هویت لو رفته، بسته به سطح دسترسی آن، می‌تواند به سیستم‌های متصل و اطلاعات حساس سازمان گسترش یابد.
نمونه‌های واقعی و خسارات مالی
گزارش‌های اخیر حوادث متعددی را توصیف کرده‌اند که منجر به مصرف بیش از حد مدل‌ها و دسترسی غیرمجاز به سیستم‌های محدود شده است:
- خسارت مالی سنگین: در یک مورد، مهاجمی به مدت سه هفته از اعتبارهای مدل‌های عمومی استفاده کرد که هزینه آن تقریباً ۶۰۰,۰۰۰ دلار برآورد شد.
- تحقیقات Okta: شناسایی کلیدهای API فعال و توکن‌های منقضی‌نشده در داده‌های سرقت شده از کامپیوترهای دچار سرایت (Infection).
- آسیب‌پذیری داشبورد: افشای یک نقص احراز هویت در یک داشبورد Agent متصل به اینترنت که منجر به سرقت کلید API ارائه‌دهنده مدل شد.
راهکارهای تقویت امنیت سرویس‌های AI
برای کاهش ریسک دسترسی غیرمجاز، توصیه‌های زیر برای مدیران امنیت پیشنهاد می‌شود:
- مدیریت دارایی‌ها: ایجاد فهرستی جامع از حساب‌های AI، هویت‌های سرویس و اعتبارنامه‌ها و تعیین مالک برای هر یک.
- اعمال اصل کمترین امتیاز (Least Privilege): اعطای دسترسی‌های حداقلی مورد نیاز برای هر نقش و حذف سریع مجوزهای غیرضروری.
- محافظت از حساب‌ها: استفاده از MFA مقاوم در برابر فیشینگ، مدیریت و به‌روزرسانی دستگاه‌ها و نظارت بر فعالیت‌های مشکوک در نشست‌ها (Sessions).
- مدیریت اسرار (Secrets Management): استفاده از سرویس‌های تایید شده برای مدیریت کلیدهای API و عدم ذخیره آن‌ها در کدها، اسناد، لاگ‌ها یا Promptها.
- نظارت و مانیتورینگ: رصد دسترسی به مدل‌ها، ایجاد اعتبارنامه‌های جدید، تغییرات در مجوزها و الگوهای مصرف غیرعادی.
- محدودسازی هزینه‌ها: اعمال محدودیت‌های سخت‌گیرانه در میزان مصرف (Rate Limit) و هزینه‌ها به جای اکتفا به سیستم‌های هشداردهنده.
