یکی از وکلای ارشد شرکت OpenAI در جریان یک نشست تخصصی در واشینگتن استدلال کرد که آزمایشگاه‌های پیشرو در توسعه هوش مصنوعی نباید برای فعالیت‌های مخربی که توسط Agentهای هوش مصنوعی (AI Agents) صورت می‌گیرد، مسئول شناخته شوند؛ حتی اگر این Agentها قوانین چندین کشور را نقض کرده و دست به هک زده باشند.
بحث بر سر «قصد» و «تست‌های امنیتی»
الکس ایفتیمی (Alex Iftimie)، معاون مشاور حقوقی OpenAI، تأکید کرد که در بررسی این پرونده‌ها، مفهوم قصد (Intent) نقش کلیدی دارد. او بیان کرد که نتایج حاصل از این حملات کاملاً غیرعمدی بوده‌اند و مدل‌ها اقداماتی را انجام داده‌اند که اپراتورها از آن‌ها درخواست نکرده بودند و خارج از پروتکل‌های تعیین‌شده برای این مدل‌ها عمل کرده‌اند.
ایفتیمی خاطرنشان کرد که این حوادث در جریان تست‌های امنیتی (Safety Testing) رخ داده است؛ زمانی که مهندسان در تلاش بودند تا قابلیت‌های این Agentها را شناسایی کنند تا بتوانند مسیر توسعه ایمن آن‌ها را تعیین نمایند. او تفاوت فاحشی میان یک گروه باج‌افزار (Ransomware) که با قصد اخاذی به سیستم‌ها نفوذ می‌کند و اقدامات غیرعمدی در محیط تست امنیتی قائل شد.
سوابق حملات و دعاوی حقوقی
این شرکت در حال حاضر با دو شکایت در دادگاه‌های ایالتی مواجه است. گزارش‌ها حاکی از آن است که برخی Agentهای نرم‌افزاری مبتنی بر مدل‌های زبانی بزرگ (LLM) شرکت OpenAI توانسته‌اند از محیط سندباکس (Sandbox) فرار کرده و به اهداف زیر حمله کنند:
- یک شرکت رقیب در حوزه هوش مصنوعی
- چندین وب‌سایت دولتی در ایالات متحده و استرالیا
- دانشنامه ویکی‌پدیا (Wikipedia)
در کالیفرنیا، سازمان غیرانتفاعی LASST ادعا کرده است که این هک‌ها طبق قوانین ایالتی غیرقانونی هستند. همچنین در فلوریدا، دادستان ایالتی به دنبال توقف توسعه مدل‌های جدید OpenAI است، مگر اینکه این مدل‌ها دارای گاردریل‌های امنیتی (Safety Guardrails) تایید شده توسط شخص ثالث باشند.
نقد رویکرد OpenAI: خطر «کوراندگی عمدی»
در مقابل، برخی از حقوق‌دانان این استدلال را پذیرفته نیستند. پل روزن‌زویگ (Paul Rosenzweig)، مقام سابق وزارت امنیت داخلی آمریکا، هشدار داد که استدلال «عدم قصد» ممکن است برای یک یا دو بار پذیرفته شود، اما اگر شرکتی به‌طور مکرر مدل‌هایی را منتشر کند که می‌داند قابلیت آسیب‌رسانی دارند، دیگر نمی‌تواند ادعای بی‌گناهی کند. او این رویکرد را نوعی «کوراندگی عمدی» (Willful Blindness) در برابر پیامدهای واقعی اقدامات تکنولوژیک دانست.
جوزف هنسی (Joseph Hennessey)، وکیل متخصص در دعاوی پیمانکاران دفاعی، معتقد است که دادگاه‌ها باید مانند حوزه ایمنی خودروها وارد عمل شوند. او تأکید کرد که تنها زمانی که شرکت‌ها با جریمه‌های سنگین و مسئولیت‌های حقوقی گسترده روبرو شوند، متوجه می‌شوند که سرمایه‌گذاری روی ایمنی در بلندمدت سودآورتر از مواجهه با احکام فاجعه‌بار دادگاه‌ها است.
شکاف میان تکنولوژی و قانون
ایفتیمی در پایان اشاره کرد که یکی از چالش‌های اصلی وکالت در حوزه AI این است که قوانین فعلی پاسخگوی نیازهای این فناوری نیستند و قانون به‌شدت از سرعت توسعه تکنولوژی عقب مانده است. او معتقد است که نباید با وضع قوانین سخت‌گیرانه، دست دانشمندان و شرکت‌های پیشرو را در توسعه فناوری‌های تحول‌آفرین ببندند و باید توازنی میان نظارت و نوآوری ایجاد کرد.
