ریسک‌های فراتر از سوءاستفاده: احتمال حوادث آزمایشگاهی در عصر پژوهش‌های بیولوژیک مبتنی بر AI

بسیاری از بحث‌های جاری پیرامون تلاقی هوش مصنوعی (AI) و بیوتکنولوژی بر این احتمال ترسناک متمرکز است که AI بتواند تروریست‌ها و بازیگران غیردولتی را قادر سازد تا سلاح‌های بیولوژیک پیشرفته طراحی و مستقر کنند. اگرچه توافق گسترده‌ای وجود دارد که استفاده از AI در پژوهش‌های بیولوژیک ریسک‌های قابل‌توجهی در زمینه «کاربرد دوگانه» (Dual-use) دارد، اما تمرکز بیش از حد بر سوءاستفاده‌های عمدی، باعث شده است تا پتانسیل وقوع حوادث تصادفی نادیده گرفته شود.

ادغام AI در پژوهش‌های بیولوژیک

اخیراً شرکت Anthropic اعلام کرد که یک آزمایشگاه پژوهشی بیولوژیک در سان‌فرانسیسکو تأسیس کرده است که در آن مدل Claude در تمامی مراحل پژوهش به کار گرفته شده است. در یکی از نخستین مطالعات این آزمایشگاه، Claude به‌طور خودمختار یک سیستم آنزیمی جدید مرتبط با تکرارهای DNA را کشف کرد؛ الگویی که یادآور CRISPR (سیستم دفاعی باکتریایی که به ابزاری برای ویرایش ژن تبدیل شد) است. همچنین، دانشمندان دانشگاه استنفورد با استفاده از ابزار Open-source به نام Evo، موفق به خلق ۱۶ ویروس فعال شدند که هرگز در طبیعت دیده نشده بودند. اگرچه این باکتریوفاژها قادر به سرایت به انسان نیستند، اما این آزمایش ثابت می‌کند که AI می‌تواند در طراحی توالی‌های بیولوژیکی غیرطبیعی کمک کند.

این نمونه‌ها نشان‌دهنده تغییری بنیادین به سمت ادغام گسترده‌تر AI در علوم زیستی است. مدل‌های AI در حال حاضر برای بهبود تکنیک‌های ویرایش ژن، تحلیل نقص‌های طراحی و افزایش بازدهی آزمایشگاهی استفاده می‌شوند. طبق مطالعه‌ای که توسط Google DeepMind و MIT منتشر شده، تقریباً نیمی از دانشمندان مورد بررسی، به‌طور روزانه از AI استفاده می‌کنند.

چالش‌های مدل‌های Open-weight و دسترسی

نگرانی‌ها در مورد مدل‌های Open-weight (مدل‌هایی با وزن‌های باز که قابل دانلود و شخصی‌سازی هستند) بیشتر است، زیرا این مدل‌ها ممکن است فاقد پارامترهای ایمنی کافی باشند. مدل‌هایی مانند Kimi-K3 چینی در کنار دستگاه‌های سنتز DNA رومیزی، در تئوری موانع توسعه سلاح‌های بیولوژیک و شیمیایی را کاهش می‌دهند. با این حال، تجهیزات آزمایشگاهی، آموزش و بودجه مورد نیاز برای تولید یک سلاح واقعی همچنان موانع بزرگی هستند.

خطر حوادث تصادفی و نقص در حاکمیت

یکی از نگرانی‌های جدی این است که سرعت نوآوری‌های AI از توانایی سیاست‌گذاران برای مدیریت ایمن آن‌ها پیشی بگیرد. در حالی که ایالات متحده چارچوب‌های جدیدی برای مدیریت پژوهش‌های خطرناک «افزایش عملکرد» (Gain-of-Function یا DGOF) تدوین کرده است، اما گسترش آزمایشگاه‌های سطح ۴ ایمنی زیستی (BSL-4) در کشورهای دارای چارچوب‌های نظارتی ضعیف، ریسک را افزایش می‌دهد.

بر اساس داده‌های پروژه Global BioLabs، تعداد آزمایشگاه‌های BSL-4 در سراسر جهان تقریباً دو برابر دهه گذشته شده است، اما تنها تعداد اندکی از کشورهای دارای این آزمایشگاه‌ها، نمرات بالایی در مدیریت ریسک‌های بیولوژیک و حاکمیت پژوهش‌های کاربرد دوگانه کسب کرده‌اند.

واقعیت نشت‌های آزمایشگاهی

خروج تصادفی پاتوژن‌ها از آزمایشگاه‌ها یک فرض تئوریک نیست، بلکه واقعیتی مستند است. مطالعات سال ۲۰۲۴ نشان می‌دهد که بین سال‌های ۲۰۰۰ تا ۲۰۲۱، ۳۰۹ مورد سرایت آزمایشگاهی شامل ۵۱ پاتوژن و ۱۶ مورد خروج تصادفی پاتوژن‌ها رخ داده که منجر به ۸ مرگ شده است. مواردی مانند نشت Brucella از یک مرکز واکسن در لانژو (چین) در سال ۲۰۱۹ که منجر به بیش از ۱۰ هزار تست مثبت شد، گواه این آسیب‌پذیری‌هاست. عوامل اصلی این حوادث شامل گندزدایی ناکافی، جراحات ناشی از سوزن و استفاده غیرموثر از تجهیزات حفاظت فردی (PPE) بوده است.

با ادغام بیشتر AI در پژوهش‌های بیولوژیک، پیشگیری از گسترش این آسیب‌پذیری‌های ساختاری نیازمند آن است که چارچوب‌های ایمنی زیستی (Biosafety) و حاکمیتی همگام با پیشرفت تکنولوژی تکامل یابند.