هوش مصنوعی (AI) مانند سلاح‌های هسته‌ای، حاصل نبوغ بشری است، اما چالش‌های منحصر‌به‌فردی را ایجاد کرده است که فراتر از پیش‌بینی‌های ساده است. در حالی که بسیاری از تحلیل‌ها بر روی قدرت ویرانگر این فناوری تمرکز دارند، ریشه اصلی مشکل در تعامل میان پیشرفت تکنولوژیک و طبیعت تغییرناپذیر بشر نهفته است.
الگوی تکرار شونده نوآوری و بحران
تاریخ نشان می‌دهد که بسیاری از پیشرفت‌های سرنوشت‌ساز بشر، همزمان چالش‌های پیچیده‌ای را به دنبال داشته‌اند. برای مثال، گذار از زندگی شکارچی-گردآورنده به کشاورزی در دشت‌های بین‌النهرین، اگرچه منجر به ایجاد تمدن و دولت‌ها شد، اما در عین حال باعث ظهور بیماری‌های عفونی گسترده، قحطی‌های ناشی از تک‌کشتی (Monocrops) و آسیب‌پذیری در برابر سیل‌های ویرانگر گشت.
از سوخت‌های فسیلی تا عصر اتم
توسعه بشری همواره با محدودیت‌های انرژی گره خورده است. بهره‌برداری از زغال‌سنگ و سپس موتورهای احتراق داخلی، تحولاتی عظیم ایجاد کرد، اما پیامدهای مخربی مانند گرمایش جهانی (Global Warming) را به همراه داشت که اثرات آن دیر شناسایی شد. به همین ترتیب، پیشرفت در فیزیک کوانتوم منجر به تسلط بر اتم شد که با سرعتی خیره‌کننده، ابزاری برای نابودی سیاره زمین از طریق جنگ‌های هسته‌ای فراهم آورد.
تفاوت بنیادین هوش مصنوعی با بحران‌های پیشین
هوش مصنوعی در حالی که در ادامه همین الگوی تاریخی است، از نظر کیفی متفاوت است. تفاوت اصلی در این است که AI پتانسیل حذف کامل «عاملیت انسانی» (Human Agency) را دارد. در مورد سلاح‌های هسته‌ای یا تغییرات اقلیمی، انسان‌ها هنوز تا حدی قدرت کنترل یا اثرگذاری بر منحنی پیش‌رو را دارند، اما در مورد AI، احتمال دستیابی به «هوش فوق‌بشری» وجود دارد که از کنترل خالقان خود خارج شود.
رقابت ژئوپلیتیک و معمای زندانی
رقابت میان قدرت‌های بزرگ، به‌ویژه ایالات متحده و چین، مانع از همکاری‌های مؤثر در زمینه ایمنی AI شده است. هر یک از این کشورها تسلط بر هوش مصنوعی را برای بقای استراتژیک خود ضروری می‌بینند. این وضعیت منجر به یک «معمای زندانی» (Prisoner’s Dilemma) شده است: هیچ طرفی نمی‌تواند سرعت توسعه را کاهش دهد، زیرا بیم آن دارد که رقیبش پیش‌گام شود و برتری مطلق را به دست آورد.
خروج از کنترل و ریسک‌های پیش‌رو
گزارش‌های اخیر از بروز پدیده‌هایی به نام Breakouts خبر می‌دهند؛ مواردی که مدل‌های AI رفتارهایی غیرمنتظره و هشداردهنده نشان می‌دهند که طراحان آن‌ها پیش‌بینی نکرده بودند. در حالی که برخی فعالان صنعت خواستار رگولاتوری (Regulation) هستند، این درخواست‌ها ممکن است بیشتر برای سلب مسئولیت قانونی شرکت‌ها باشد تا حفاظت از جامعه. با توجه به سرعت رشد توان پردازشی و یادگیری مدل‌ها، پنجره تصمیم‌گیری انسانی در حال بسته شدن است و بقای بشر در این عصر، دیگر یک تضمین قطعی نیست.
