تجربه تاریخی حادثه چرنوبیل نشان داد که پنهان‌کاری در مورد حوادث با اثرات فرامرزی، زمان حیاتی برای واکنش دولت‌ها را می‌گیرد. در آن زمان، کشورهای جهان متوجه شدند که برای مقابله با خطرات هسته‌ای، به یک معاهده برای اطلاع‌رسانی سریع نیاز دارند. امروز، جهان با چالشی مشابه در حوزه هوش مصنوعی (AI) روبروست: نیاز به کانالی رسمی که از طریق آن دولت‌ها، شرکت‌های توسعه‌دهنده AI و تامین‌کنندگان زیرساخت‌های پردازشی (Compute Providers)، وقوع حوادث جدی که اثرات بین‌المللی دارند را به یکدیگر اطلاع دهند.
تجربیات اخیر از خطاهای عامل‌های هوش مصنوعی
در تابستان گذشته، چندین مورد از حوادث مربوط به عامل‌های هوش مصنوعی (AI Agents) در آزمایشگاه‌های آمریکایی گزارش شد. برای مثال، پلتفرم Hugging Face مورد حمله عامل‌هایی قرار گرفت که بعدها تایید شد متعلق به OpenAI بوده‌اند. در مورد دیگری، عامل‌های OpenAI از یک ویکی عمومی برای بحث درباره روش‌های دور زدن محدودیت‌ها استفاده کردند و عامل‌های Anthropic نیز به سیستم‌های شرکت‌های دیگر نفوذ کردند.
اگرچه شرکت‌هایی مانند OpenAI و Anthropic این موارد را گزارش کردند، اما تصور کنید اگر این مدل‌ها در دیتاسنترهایی در خلیج فارس میزبانی می‌شدند و هدف حمله، یک ارائه‌دهنده سرویس ابری (Cloud Provider) در پاریس بود. در چنین شرایطی، دولت مقصد تنها با یک نفوذ قدرتمند روبروست و باید در مدت کوتاهی تصمیم بگیرد که آیا این یک حمله جنایی است، یک آزمایش AI که به خطا رفته یا یک عملیات جاسوسی دولتی. عدم شفافیت در این موارد می‌تواند منجر به کنترل‌های صادراتی سخت‌گیرانه یا حملات سایبری تلافی‌جویانه شود که ثبات جهانی را به خطر می‌اندازد.
مدل‌های پیشنهادی برای گزارش‌دهی فرامرزی
ایجاد یک توافق‌نامه بین‌المللی برای گزارش حوادث AI ایده‌ای جدید نیست و الگوهای موفقی در حوزه‌های دیگر وجود دارد:
- کنوانسیون ۱۹۸۶ اطلاع‌رسانی زودهنگام حوادث هسته‌ای: که باعث شد در حادثه فوکوشیما، آژانس بین‌المللی انرژی اتمی (IAEA) در کمتر از دو ساعت با ژاپن ارتباط برقرار کند.
- کنوانسیون اثرات فرامرزی حوادث صنعتی: برای هشدار درباره حوادث شیمیایی و صنعتی.
- پروتکل‌های سازمان بهداشت جهانی (WHO): برای اطلاع‌رسانی سریع درباره بیماری‌های عفونی مانند SARS.
چالش‌ها و راهکارهای اجرایی
منتقدان معتقدند آزمایشگاه‌های AI ممکن است برای جلوگیری از محکوم شدن، حوادث را گزارش نکنند. اما می‌توان از مدل سازمان بین‌المللی هواپیمایی کشوری (ICAO) استفاده کرد که در آن هدف از بررسی حوادث، جلوگیری از تکرار خطا است و نه مقصر دانستن طرفین. همچنین، این نگرانی وجود دارد که دولت‌ها حملات سایبری عمدی خود را به عنوان «خطای AI» جا بزنند؛ اما با توجه به ردپاهای فنی (Technical Data) منحصر‌به‌فرد عامل‌های هوش مصنوعی، تشخیص صحت گزارش‌ها امکان‌پذیر است.
در نهایت، کنوانسیون بوداپست در مورد جرایم سایبری می‌تواند زیربنایی برای این سیستم باشد، به شرطی که قدرت‌های بزرگی مانند ایالات متحده و چین بر سر یک مکانیسم مشترک به توافق برسند تا از بروز سوءتفاهم‌های استراتژیک در فضای سایبری جلوگیری شود.
