در دنیای امروز، مدلهای بسته هوش مصنوعی (Closed AI Models) میتوانند از دادههای اختصاصی و بافت کسبوکار یک شرکت یاد بگیرند و این دانش یا Intelligence را در اختیار مشتریان بعدی قرار دهند. این موضوع ریسکهای جدی برای امنیت دادهها و مالکیت معنوی سازمانها ایجاد میکند.
ریسک مدلهای ابری و یادگیری متقابل
بر اساس تحلیلهای تخصصی، دادههای اختصاصی و جریانهای کاری (Workflows) — مانند متدهای ارزیابی وام در یک بانک — همان مواردی هستند که یک شرکت را از رقبای خود در صنایع مشابه متمایز میکنند. زمانی که این دادهها در مدلهای ابری پردازش میشوند، احتمال نشت دانش سازمانی به مدلهای عمومی وجود دارد.
راهکار: زیرساختهای حاکمیتی (Sovereign Infrastructure)
برای مقابله با این تهدید، استفاده از زیرساختهای حاکمیتی پیشنهاد میشود که در آن بارهای کاری اصلی (Core Workloads) به صورت On-premises و تحت کنترل کامل سازمان باقی میمانند. استراتژیهای پیشنهادی عبارتند از:
- استقرار Air-gapped: اجرای موارد استفاده حساس از AI بر روی GPUهای داخلی و در محیطهای ایزوله.
- استفاده از مدلهای Open-weight: بهرهگیری از مدلهایی که وزنهای آنها باز است تا کنترل کامل روی مدل و دادهها باشد.
- مدیریت ترکیبی: انتقال بارهای کاری با حساسیت پایین به Cloud و حفظ دادههای استراتژیک در محیط داخلی.
در نهایت، مفهوم جدیدی در مدیریت ریسک AI در حال ظهور است: «هوش سازمان نباید اجاره شود، بلکه باید مالکیت آن در اختیار سازمان باشد». در واقع، مالکیت معنوی (Intellectual Property) در عصر جدید، در قالب توکنها و الگوهای یادگیری مدلهای هوش مصنوعی تعریف میشود.