ایالت یوتا با تایید سه شرکت فناوری سلامت، اجازه داده است تا سیستم‌های هوش مصنوعی (AI) خود را در محیطی کنترل‌شده برای ارائه خدماتی نظیر تجویز دارو، تمدید نسخه‌ها و برنامه‌های فیزیوتراپی تحت نظارت آزمایش کنند.
این پروژه‌های آزمایشی که شامل شرکت‌های Nolla Health، August AI Labs و Expect Fitness می‌شود، بخشی از طرح “Regulatory Sandbox” یوتا هستند. این طرح یک محیط نظارتی محدود را برای شرکت‌هایی فراهم می‌کند که قصد دارند فناوری‌های هوش مصنوعی خود را تحت نظارت مستقیم ایالتی تست کنند تا داده‌های لازم برای تدوین سیاست‌های مبتنی بر شواهد در آینده جمع‌آوری شود.
الزامات امنیتی و حاکمیت داده
در این توافق‌نامه‌ها، شرکت‌ها موظف به اجرای پروتکل‌های حفاظتی مناسب در حوزه امنیت سایبری (Cybersecurity) برای جلوگیری از نشت داده‌ها (Data Leaks) و به حداقل رساندن خطر نقض اطلاعات محرمانه هستند. همچنین، رعایت بهترین شیوه‌ها (Best Practices) برای مقابله با تهدیدات و آسیب‌پذیری‌های (Vulnerabilities) نوظهور الزامی است.
- نظارت انسانی: در مراحل اولیه، ۱۰۰٪ تصمیمات باید توسط پزشکان متخصص بازبینی شود تا سیستم پیش از کسب خودمختاری، ایمنی خود را اثبات کند.
- حسابرسی مستقل: استفاده از شرکت‌های ثالث برای حسابرسی فنی و بالینی (Technical and Clinical Auditing) جهت تایید لاگ‌های تصمیم‌گیری و تست استحکام (Stress-test) حفاظ‌های سیستم.
- گزارش‌دهی: الزام به گزارش‌دهی ۲۴ ساعته در صورت بروز هرگونه حادثه نامطلوب.
چالش‌ها و ریسک‌های بالقوه
کارشناسان نسبت به ریسک‌های موجود در گسترش این فناوری‌ها هشدار می‌دهند. از جمله نگرانی‌های اصلی می‌توان به موارد زیر اشاره کرد:
- سوگیری داده‌ها (Data Bias): احتمال وجود سوگیری یا نابرابری در داده‌های آموزشی که می‌تواند منجر به نتایج ناعادلانه برای گروه‌های خاص شود.
- محدودیت بازبینی پس‌نگر (Retrospective Review): خطر اینکه در صورت بروز خطا توسط هوش مصنوعی، بازبینی انسانی پس از وقوع حادثه انجام شود که ممکن است برای جلوگیری از آسیب دیر باشد.
- حریم خصوصی (Privacy): مدیریت امنیت داده‌های حساس پزشکی در مقیاس وسیع و مقابله با ریسک‌های ناشی از آن.
