شورای استانداردهای امنیت صنعت پرداخت (PCI SSC) اخیراً راهنمای جدیدی تحت عنوان Security Considerations for AI Systems منتشر کرده است. این سند بر حفاظت از داده‌های ارسالی به سیستم‌های هوش مصنوعی در محیط‌های پرداخت و ایجاد لایه‌های دفاعی در برابر حملات تقویت‌شده توسط AI تمرکز دارد.
حاکمیت و رویکرد «حداقل دسترسی»
این شورا توصیه می‌کند که پیش از انتخاب یا استقرار هر سیستم هوش مصنوعی، هدف، مجوزها و سطح دسترسی به داده‌ها به‌طور دقیق تعریف شود. در این راستا، رویکرد Least Agency پیشنهاد شده است که در آن هر سیستم تنها به دسترسی‌ها و قابلیت‌هایی محدود می‌شود که برای انجام وظایف محول‌شده به آن ضروری است.
یکی از کلیدی‌ترین توصیه‌ها، تعیین یک فرد مسئول برای پذیرش رسمی خروجی‌های AI است. سازمان‌ها باید به‌طور مشخص تعیین کنند که کدام اقدامات AI نیازمند تایید انسانی (Human Approval) است. همچنین، محدودیت‌های دسترسی باید از طریق کنترل‌های مستقل مانند سیاست‌های مدیریت هویت (Identity Management) و جداسازی شبکه (Network Isolation) اعمال شوند.
مدیریت داده‌های حساس و اسرار (Secrets)
طبق این راهنما، سازمان‌ها باید از ترکیب دسترسی به داده‌های حساس، ارتباطات خارجی و ورودی‌های نامحدود از منابع غیرقابل اعتماد در یک سیستم AI واحد اجتناب کنند. در صورتی که گردش کاری به هر سه مورد نیاز داشته باشد، توصیه می‌شود مسئولیت‌ها بین چندین Agent با مجوزهای متفاوت تقسیم شود.
- مدیریت اسرار: سیستم‌های AI نباید رمزهای عبور یا کلیدهای رمزنگاری (Cryptographic Keys) را مدیریت یا تولید کنند. این موارد باید از طریق ابزارهای Secrets Management مدیریت شده و هرگز در کد منبع، Promptها یا لاگ‌ها قرار نگیرند.
- حفاظت از داده‌ها: استفاده از داده‌های رمزنگاری شده یا Tokenized توصیه می‌شود. همچنین کنترل‌های جلوگیری از نشت داده (DLP) باید به‌طور مستقل از سیستم AI عمل کنند.
تست، پایش و مقابله با Shadow AI
شورای PCI تاکید دارد که پیش از تست‌های کاربردی، باید Safeguardها از طریق Adversarial Testing مورد ارزیابی قرار گیرند تا مشخص شود آیا محدودیت‌ها قابل دور زدن هستند یا خیر. همچنین برای شناسایی و محدود کردن Shadow AI (ابزارهایی که کارکنان بدون تایید سازمان استفاده می‌کنند)، باید سیاست‌های استفاده قابل قبول (Acceptable-use policy) و کنترل‌های فنی پیاده‌سازی شوند.
تهدیدات نوظهور و پاسخ به حوادث
این راهنما هشدار می‌دهد که AI می‌تواند سرعت شناسایی آسیب‌پذیری‌ها، توسعه Exploitها و حملات مهندسی اجتماعی را افزایش دهد. در این راستا، موارد زیر برای دفاع پیشنهاد شده است:
- استفاده از احرازه هویتی که در برابر فیشینگ مقاوم باشد (Phishing-resistant authentication).
- بررسی دقیق کدهای تولید شده توسط AI برای شناسایی Credentialهای جاسازی شده یا وابستگی‌های (Dependencies) ناامن.
- به‌روزرسانی برنامه‌های پاسخ به حوادث (Incident Response) برای پوشش حملاتی مانند Prompt Injection و Model Poisoning.
مدیریت تامین‌کنندگان خارجی
ارائه‌دهندگان خارجی AI که به داده‌های حساس دسترسی دارند، باید تحت الزامات تامین‌کنندگان خدمات شخص ثالث (Third-party service provider) ارزیابی شوند. قراردادها باید صراحتاً استفاده از داده‌های سازمان برای آموزش مدل‌های AI را ممنوع کرده و شرایط اطلاع‌رسانی در صورت وقوع Breach را تعیین کنند.
