شرکت OpenAI اخیراً لیستی از اولویت‌ها و اصول حاکم بر ارزیابی‌های مدل‌های خود توسط شخص ثالث (Third-party Assessors) را منتشر کرده است. اگرچه تحلیل‌گران صنعت این گام را مثبت ارزیابی می‌کنند، اما هشدار می‌دهند که این سند فاقد کنترل‌های اجرایی (Enforceable Controls) لازم برای تضمین امنیت واقعی است.
شکاف بین تعهدات و اجرا
در متن منتشر شده توسط OpenAI آمده است که این شرکت متعهد به حمایت از ارزیابی‌های مستقل با دسترسی‌های گسترده به مراحل آموزش (Training)، ارزیابی (Evaluation) و استقرار (Deployment) است تا ارزیابان بتوانند فرضیات شرکت را به چالش کشیده و ریسک‌های شناسایی‌نشده را بیابند. با این حال، متخصصان امنیت معتقدند این رویکرد بیشتر شبیه به یک «کد اخلاقی» برای ارزیابان است تا یک تعهد الزام‌آور برای خود OpenAI.
نقاط ضعف کلیدی در مدل نظارتی
- کنترل محدوده ارزیابی: OpenAI همچنان حق تعیین محدوده (Scope) و سطح دسترسی را دارد، که می‌تواند منجر به فیلتر کردن شواهد مستقیم در موارد حساس یا طبقه‌بندی شده شود.
- مدیریت گزارش‌ها: این شرکت کنترل بخش بزرگی از گزارش‌ها را در اختیار دارد و می‌تواند بخش‌هایی از یافته‌ها را سانسور (Redact) کند.
- تأخیر در انتشار: طبق این سند، انتشار نتایج پس از یک دوره زمانی «معقول» برای رفع مشکلات صورت می‌گیرد؛ رویکردی که پیش از این در مورد گوگل و مدل Gemini مورد انتقاد قرار گرفته بود.
دیدگاه تحلیل‌گران
پیتِر آرنتز از Malwarebytes اشاره می‌کند که اعتبار این طرح به این بستگی دارد که آیا OpenAI پذیرای بررسی‌های «ناگوار» است یا خیر. از سوی دیگر، جیسون اندرسن معتقد است تضاد بین اهداف تجاری و ماموریت اولیه OpenAI باعث شده تا این سند بیشتر جنبه حقوقی (Legalese) پیدا کند تا فنی.
مسیر آینده: از ارزیابی تا پاسخگاری
کارشناسان تأکید می‌کنند که گام بعدی باید انتقال از «ارزیابی» به «پاسخگاری» (Accountability) باشد. اعتماد بلندمدت سازمان‌ها و مدیران ارشد فناوری (CIOs) تنها زمانی جلب می‌شود که اقدامات اصلاحی پس از شناسایی ریسک‌ها، به‌صورت مستقل تأیید شده و در تصمیمات حاکمیتی و استقرار مدل‌ها منعکس شوند.
