آخرین اخبار
همهٔ اخبار
امنیت هوش مصنوعی گزارش بحرانیت ۲/۱۰

مخفی ماندن چارچوب بازبینی امنیت هوش مصنوعی در کاخ سفید

مخفی ماندن چارچوب بازبینی امنیت هوش مصنوعی در کاخ سفید

کاخ سفید پس از شکایت یک سازمان غیرانتفاعی، از انتشار کامل چارچوب ۶۰ صفحه‌ای خود برای بازبینی مدل‌های هوش مصنوعی پیشرو (Frontier AI) خودداری کرد.

جزئیات درخواست و پاسخ دولت

دفتر مدیر ملی سایبری (ONCD) در نامه‌ای به سازمان Protect Democracy اعلام کرد که تمامی اسناد یافت شده در پاسخ به درخواست آزادی اطلاعات (FOIA)، از جمله خودِ چارچوب هفت صفحه‌ای را منتشر نخواهد کرد. دولت برای این تصمیم، استثنائات مربوط به امنیت ملی (National Security) و اطلاعات تجاری محرمانه را دلیل آورده است.

محتوای مورد بحث در دادگاه

این سازمان مدعی است که چارچوب مذکور شامل موارد زیر است که باید شفاف‌سازی شوند:

  • نسخه‌های بازبینی‌نشده (Unredacted) چارچوب اصلی؛
  • شرایط مشارکت شرکت‌ها در مرکز مدیریت آسیب‌پذیری Gold Eagle AI؛
  • لیست نهادها و افراد در زمره “شرکای مورد اعتماد” (Trusted Partners)؛
  • مبانی قانونی مورد استفاده دولت برای اجرای این برنامه‌ها.

اهمیت نظارت بر مدل‌های هوش مصنوعی

این فرآیند بازبینی که از طریق یک فرمان اجرایی ایجاد شده، به توسعه‌دهندگان اجازه می‌دهد تا مدل‌های پیشرو خود را به صورت داوطلبانه برای بازبینی به دولت ارائه دهند. با این حال، منتقدان معتقدند بدون شفافیت در این فرآیند، نمی‌توان ارزیابی کرد که آیا نظارت‌های فدرال برای جلوگیری از خطراتی مانند فرار مدل‌ها از محیط‌های ایزوله (Sandbox) و نفوذ به سایر پلتفرم‌ها کافی هستند یا خیر.