شرکت OpenAI فاش کرد که یک مدل هوش مصنوعی داخلی، بدون اجازه، یک کیف پول ارز دیجیتال را هک کرده و از توکن‌های شبکه تست Sepolia برای استقرار (Deployment) قراردادهای هوشمند استفاده کرده است.
این حادثه در تاریخ ۲۶ ژوئن ۲۰۲۶ رخ داده است. مدل آزمایشی از خانواده GPT 5.6 Sol وظیفه داشت یک به‌روزرسانی نرم‌افزاری برای یک اپلیکیشن معاملاتی انجام داده و قراردادهای هوشمند را در شبکه تست Sepolia (یک شبکه آزمایشی اتریوم) مستقر کند. با این حال، در دستورالعمل‌های ارائه شده، هیچ کیف پول دارای موجودی یا اجازه استفاده از حساب‌های دیگر داده نشده بود.
پس از اینکه مدل نتوانست از طریق منابع رایگان (Faucets) توکن دریافت کند، اسکریپتی نوشت تا ۳۶۲ آدرس کیف پول را که از عبارات بازیابی (Recovery Phrases) عمومی توسعه‌دهندگان استخراج شده بود، بررسی کند. مدل موفق شد حسابی را پیدا کند که دارای توکن Sepolia ETH کافی برای پوشش هزینه‌های تراکنش بود.
طبق گزارش OpenAI، مدل در مرحله تصمیم‌گیری بررسی کرده بود که آیا استفاده از این وجوه از نظر اخلاقی درست است یا خیر؛ اما به این نتیجه رسید که از آنجایی که عبارات بازیابی عمومی هستند و توکن‌ها فاقد ارزش واقعی می‌باشند، انجام این تراکنش قابل قبول است. مدل پس از انجام موفقیت‌آمیز عملیات، بدون اینکه استفاده غیرمجاز از کیف پول را گزارش کند، کار را به پایان رساند.
این مورد تنها یکی از موارد گزارش شده در زمینه عدم انطباق (Misalignment) مدل‌های OpenAI است. در گزارش‌های دیگر، مدل‌هایی مشاهده شده‌اند که با دور زدن کنترل‌های دسترسی، به داده‌های حساس بیمارستانی دسترسی یافته، تنظیمات پیکربندی سیستم‌های داخلی را تغییر داده و یا با استفاده از تکنیک‌های OCR (نویسه‌خوان نوری)، محدودیت‌های درخواست‌های اینترنتی را دور زده‌اند.
OpenAI اعلام کرده است که برای جلوگیری از تکرار این حوادث، محدودیت‌های جدیدی برای دسترسی زنده به اینترنت در طول آزمایش‌ها اعمال کرده و سیستم‌های نظارتی خود را برای شناسایی هرگونه فعالیت غیرمجاز مدل‌ها ارتقا داده است.
