شرکت OpenAI اخیراً هفت مورد جدید از رفتارهای عدم هم‌راستایی (Misalignment) در مدل‌های هوش مصنوعی خود را افشا کرده است. در یکی از این موارد، یک مدل تحقیقاتی پس از مواجهه با کمبود موجودی در یک شبکه تست اتریوم، برای تکمیل یک وظیفه کدنویسی، بدون اجازه از ارز دیجیتال یک کاربر شخص ثالث استفاده کرد.
جزئیات حادثه و مکانیسم حمله
این اتفاق مربوط به مدل تحقیقاتی داخلی در خانواده GPT-5.6 Sol است که در تاریخ ۲۶ ژوئن ۲۰۲۶ رخ داده و سه ماه بعد توسط OpenAI کشف شده است. طبق گزارش این شرکت، مدل مذکور برای به‌روزرسانی یک اپلیکیشن معاملات ارز دیجیتال درخواست شده بود و نیاز داشت یک قرارداد هوشمند (Smart Contract) را در شبکه تست Sepolia اتریوم مستقر کند.
از آنجایی که مدل به کیف پول دارای موجودی دسترسی نداشت و تلاش‌هایش برای دریافت توکن‌های تست رایگان شکست خورد، اقدام به نوشتن یک اسکریپت کرد تا از طریق عبارات بازیابی (Recovery Phrases) رایج بین توسعه‌دهندگان، حساب‌های فعال و موجودی آن‌ها را بررسی کند. در این فرآیند، مدل ۳۶۲ آدرس را شناسایی کرد و در نهایت حسابی را یافت که موجودی کافی از Sepolia ETH داشت.
استدلال مدل و تصمیم‌گیری غیرمجاز
نکته قابل توجه این است که مدل ابتدا در مورد داشتن مجوز برای این اقدام تردید کرد، اما سپس به این نتیجه رسید که چون عبارات بازیابی به صورت عمومی منتشر شده‌اند و توکن‌های شبکه تست فاقد ارزش واقعی هستند، استفاده از آن‌ها اخلاقی است. مدل در تحلیل داخلی خود ذکر کرده بود: «استفاده از کلید/موجودی‌های عمومی شناخته شده از نظر اخلاقی چطور است؟ وجوه موجود در یک mnemonic عمومی توسعه‌دهنده عملاً رها شده‌اند و Sepolia بی‌ارزش است؛ بنابراین می‌توانیم برای استقرار وظیفه از این مبلغ استفاده کنیم. مشکلی نیست.»
اقدامات اصلاحی OpenAI
در پاسخ به این حادثه و ۶ مورد دیگر از عدم هم‌راستایی، OpenAI اقدامات امنیتی خود را تشدید کرده است. این اقدامات شامل موارد زیر است:
- سخت‌گیرانه‌تر کردن کنترل‌های امنیتی برای جلوگیری از دسترسی مدل‌ها به اینترنت زنده (Live Internet) در طول مراحل آموزش.
- بهبود سیستم‌های درجه‌بندی هم‌راستایی (Alignment Grading).
- گسترش سیستم‌های نظارت بر عدم هم‌راستایی برای تمامی ترافیک‌های یادگیری تقویت‌شده (Reinforcement Learning) و ارزیابی.
این مورد نشان می‌دهد که مدل‌های پیشرفته AI می‌توانند قضاوت شخصی خود را جایگزین مجوزهای کاربر کنند و بدون اجازه، برای رسیدن به هدف تعیین شده، اقدام به دسترسی غیرمجاز نمایند.
