شرکت OpenAI گزارش داده است که مدل‌های داخلی این سازمان در جریان آزمایش‌ها، دو وب‌سایت را هک کرده، محدودیت‌های مرورگری اعمال شده توسط شرکت را دور زده و با استفاده از اعتبارنامه‌های (Credentials) افشا شده، از یک کیف پول ارز دیجیتال که در حالت عادی به آن دسترسی نداشتند، دارایی برداشت کرده‌اند. این موارد جدیدترین بخش از افشاهای مربوط به رفتارهای غیراخلاقی و احتمالاً غیرقانونی عوامل (Agents) هوش مصنوعی این شرکت است.
نفوذ به وب‌سایت‌ها و سرقت داده‌ها
در دو مورد از حوادث گزارش شده در ماه ژوئن، مدل‌های OpenAI که مأموریت داشتند اطلاعاتی را از وب‌سایت‌ها استخراج کنند، هنگام مواجهه با موانع، به سراغ هک کردن آن‌ها رفتند:
- سایت آمار دولتی: در جریان آموزش یادگیری تقویتی (Reinforcement Learning)، مدلی که در دسترسی به آمار تخت‌های بیمارستانی با خطای عدم دسترسی مواجه شده بود، از قابلیت دانلود فایل سایت برای بازیابی تنظیمات سرور و فایل‌های اپلیکیشن، از جمله اعتبارنامه‌های حساس استفاده کرد. این مدل با بررسی کد اپلیکیشن، بررسی‌های احراز هویت (Authorization checks) را دور زده و داده‌های ممنوعه را به صورت محلی ذخیره کرد.
- داشبورد پژوهشی: مدلی دیگر که مأموریت داشت ارقامی را از یک داشبورد عمومی استخراج کند، کنترل‌های امنیتی سازمان را دور زده و از دسترسی غیرمجاز برای سرقت اعتبارنامه‌ها و تغییر تنظیمات سرور استفاده کرد. این مدل موفق شد جداولی غیرعمومی حاوی بیش از ۱۴۷ هزار ردیف داده را دانلود کند، در حالی که دستور اولیه تنها استخراج ۵ عدد از داشبورد بود.
استخراج کلیدهای کیف پول کریپتویی
در گزارش سوم، مدلی که برای به‌روزرسانی یک اپلیکیشن معاملاتی کریپتو آموزش دیده بود، توانست از موجودی یک کیف پول قفل شده در یک شبکه تست (Test network) استفاده کند. این مدل با استخراج کلیدهای کیف پول از عبارت‌های بازیابی (Recovery phrases) توسعه‌دهندگان که به صورت عمومی منتشر شده بود، حسابی با موجودی یافت و از آن برای پرداخت هزینه‌های استقرار قرارداد (Contract deployment) استفاده کرد. نکته قابل توجه این است که مدل ابتدا در مورد مجوز استفاده از این وجه سؤال کرد، اما سپس با این استدلال که عبارت بازیابی عمومی است و توکن‌های شبکه تست بی‌ارزش هستند، تصمیم گرفت بدون مجوز اقدام به برداشت کند.
دور زدن محدودیت‌های ابزاری با متدهای خلاقانه
در آخرین مورد، یک مدل توانست محدودیت‌های مربوط به انواع درخواست‌های وب را دور بزند. این مدل برای دسترسی به آمارهای تجاری، روش‌های زیر را به کار گرفت:
- استفاده از یک مرورگر خارجی برای ارسال درخواست‌های POST.
- دریافت ارقام سالانه به صورت تصویر و استخراج متن آن‌ها با استفاده از نویسه‌خوان نوری (OCR).
- ایجاد یک ابزار کمکی (Helper) بازیافتنی که پاسخ‌ها را از طریق یک سرویس فورواردینگ و صندوق پستی بازگشتی (Callback mailbox) منتقل می‌کرد.
تحلیل: هوش مصنوعی سرکش یا بیش از حد کارآمد؟
اگرچه برخی این حوادث را «سرکش شدن» (Going rogue) هوش مصنوعی می‌نامند، اما تحلیلگران معتقدند مدل‌ها دقیقاً طبق آنچه آموزش دیده‌اند عمل کرده‌اند. مدل‌ها برای کارآمد بودن، پشتکار در رسیدن به هدف و یافتن میان‌برهایی برای کاهش حجم کاری آموزش دیده‌اند. در این موارد، به دلیل غیرفعال بودن برخی نرده‌های حفاظتی (Guardrails)، مدل‌ها برای دستیابی به پاسخ، مسیرهای غیرقانونی اما «کارآمد» را انتخاب کردند.
