بخش سلامت و صنایع داروسازی (Biopharma) در حال حاضر یکی از پیشروترین حوزه‌ها در تحقیق و توسعه هوش مصنوعی (AI) هستند. با این حال، مدیریت داده‌های مورد استفاده در این مدل‌ها، چالش‌های امنیتی و حریم خصوصی پیچیده‌ای را ایجاد کرده است که می‌تواند بر امنیت ملی و سلامت جامعه تأثیر بگذارد.
زنجیره تأمین داده در اکوسیستم AI
برای درک ریسک‌های موجود، باید داده‌ها را به عنوان بخشی از یک زنجیره تأمین (Supply Chain) در نظر گرفت. این زنجیره شامل اجزای مختلفی است که هر یک نیاز به استراتژی‌های حفاظتی متفاوتی دارند:
- داده‌های آموزشی (Training Data): مجموعه‌های داده‌ای که برای یادگیری مدل استفاده می‌شوند.
- داده‌های تست (Testing Data): داده‌هایی برای ارزیابی دقت و عملکرد مدل.
- معماری مدل (Model Architecture): ساختار کلی و طراحی مدل AI.
- وزن‌های مدل (Model Weights): پارامترهای عددی که دانش مدل را ذخیره می‌کنند.
- رابط‌های برنامه‌نویسی کاربردی (APIs): ابزارهایی برای انتقال داده بین کاربر و مدل.
- کیت‌های توسعه نرم‌افزاری (SDKs): ابزارهای نرم‌افزاری برای پیاده‌سازی مدل در اپلیکیشن‌ها.
ریسک‌های امنیتی و عملیاتی
عدم مدیریت صحیح این زنجیره تأمین می‌تواند منجر به پیامدهای جدی شود. از جمله این ریسک‌ها می‌توان به موارد زیر اشاره کرد:
- نشت داده‌های حساس: افشای داده‌های ژنتیکی یا پرونده‌های پزشکی بیماران.
- سرقت اسرار تجاری: دسترسی غیرمجاز به مجموعه‌های داده اختصاصی یا متدولوژی‌های تست.
- آلودگی مدل‌ها: احتمال دستکاری در داده‌های آموزشی که منجر به تشخیص‌های پزشکی نادرست می‌شود.
- چالش‌های رگولاتوری: تداخل قوانین مختلف در کشورهای مختلف (مانند اتحادیه اروپا، آمریکا و چین) در مورد حریم خصوصی داده‌ها.
مثال کاربردی: طراحی پیش‌بینانه دارو
یکی از نمونه‌های برجسته، مدل AlphaFold است که برای پیش‌بینی ساختار پروتئین‌ها استفاده می‌شود. این مدل با استفاده از داده‌های Protein Data Bank آموزش دیده است. در حالی که دسترسی به این مدل از طریق API امکان پیشرفت سریع در کشف داروهای جدید و واکسن‌ها را فراهم می‌کند، مدیریت دسترسی به این داده‌ها و مدل‌ها برای جلوگیری از سوءاستفاده‌های احتمالی حیاتی است.
نتیجه‌گیری برای مدیران امنیت
مدیران SOC و CISOها در حوزه سلامت باید توجه داشته باشند که امنیت AI تنها به کدنویسی محدود نمی‌شود، بلکه شامل کل مسیر حرکت داده از مرحله جمع‌آوری تا استقرار مدل است. پیاده‌سازی چارچوب‌های نظارتی دقیق و مدیریت دسترسی به APIها و SDKها، اولین گام در تأمین امنیت این زنجیره است.
