آخرین اخبار
همهٔ اخبار
گزارش‌ها و تحلیل‌ها گزارش بحرانیت ۳/۱۰

ضرورت شفافیت در توسعه هوش مصنوعی: مسیری به سوی استقلال دیجیتال

ضرورت شفافیت در توسعه هوش مصنوعی: مسیری به سوی استقلال دیجیتال

با افزایش نگرانی‌ها در مورد وابستگی عمیق به تعداد محدودی از شرکت‌های بزرگ فناوری (Big Tech) و نفوذ گسترده ایالات متحده و چین، نیاز به بازپس‌گیری کنترل بر فناوری هوش مصنوعی بیش از پیش احساس می‌شود. تمرکز قدرت در این حوزه می‌تواند منجر به کنترل‌های اقتدارگرا و کاهش پاسخگویی دموکراتیک شود.

ساختار فنی هوش مصنوعی (AI Stack)

برای درک چگونگی ایجاد استقلال، ابتدا باید لایه‌های مختلف یک پشته یا همان (AI Stack) را شناخت:

  • لایه سخت‌افزار (Hardware Layer): شامل قدرت پردازشی مورد نیاز که عمدتاً از طریق پردازنده‌های گرافیکی پیشرفته (GPUs) تأمین می‌شود.
  • لایه داده (Data Layer): مورد استفاده برای آموزش (Training) و پس‌آموزش مدل‌ها.
  • لایه مدل (Model Layer): شامل خود مدل‌ها مانند GPT-4 یا Claude و ابزارهای سرویس‌دهی آن‌ها.
  • لایه اپلیکیشن (Application Layer): رابط کاربری که کاربران با آن تعامل دارند.

در حال حاضر، اکثر کشورها برای لایه‌های مختلف به شرکت‌های آمریکایی یا چینی وابسته هستند که این امر آسیب‌پذیری‌های امنیتی و دسترسی را افزایش می‌دهد.

تفاوت مدل‌های متن‌باز و وزن‌باز

در بحث شفافیت، تمایز میان مدل‌های متن‌باز (Open Source) و مدل‌های با وزن باز (Open-weight) بسیار حیاتی است. مدل‌های (Open-weight) اجازه می‌دهند پارامترهای ریاضی آموزش‌دیده مدل توزیع شوند تا کاربران بتوانند آن‌ها را روی سرورهای محلی خود میزبانی و اجرا کنند. این کار مزایای امنیتی و حریم خصوصی (Privacy) قابل توجهی دارد. همچنین، این مدل‌ها از طریق روش‌هایی مانند تنظیم دقیق (Fine-tuning) قابل تغییر هستند.

حاکمیت داده و استقلال منطقه‌ای

شفافیت در لایه داده نیز به همان اندازه مهم است. جوامع باید ابزارهای فنی و حقوقی برای مدیریت دسترسی به داده‌های خود داشته باشند تا از استخراج بی‌رویه داده‌ها توسط بازیگران بزرگ جلوگیری کنند. پروژه‌هایی مانند LatamGPT نشان می‌دهند که چگونه می‌توان با استفاده از مدل‌های پایه (مانند Llama 70B)، مدل‌های منطقه‌ای و تخصصی با داده‌های محلی توسعه داد تا وابستگی به زیرساخت‌های عظیم جهانی کاهش یابد.

در نهایت، گذار از مدل‌های بسته به سمت اکوسیستم‌های باز و توزیع‌شده، تنها راه دستیابی به نوآوری‌هایی است که در راستای منافع عمومی و احترام به حقوق بشر عمل می‌کنند.