مرکز امنیت الکترونیکی دبی (DESC)، نهاد نظارتی امنیت سایبری این منطقه، از توسعه یک مدل هوش مصنوعی پیشرفته به نام Saraab خبر داد. این مدل که به‌طور تخصصی برای شناسایی ویدئوهای جعلی یا همان Deepfake طراحی شده است، قرار است تا پایان سال جاری به صورت Open Source منتشر شود تا پژوهشگران، شرکت‌های فعال در حوزه AI و متخصصان امنیت سایبری بتوانند آن را آزمایش کرده و بهبود بخشند.
دقت و مکانیزم عملکرد Saraab
به گفته مقامات DESC، مدل Saraab با تحلیل چهره‌ها و سایر المان‌های بصری در یک ویدئو، یک امتیاز اطمینان (Confidence Score) کلی برای تشخیص جعلی بودن یا اصالت محتوا ارائه می‌دهد. این مدل در حال حاضر دارای دقت ۹۱ درصدی است که آن را به یکی از موثرترین ابزارهای موجود برای تفکیک محتوای واقعی از جعلی تبدیل می‌کند.
فرآیند تحلیل در این مدل به شرح زیر است:
- بررسی دقیق چهره‌ها برای یافتن نشانه‌های ریز (Clues) مربوط به دستکاری‌های دیجیتالی.
- ارائه یک تحلیل توصیفی (Descriptive Analysis) شامل امتیاز کلی اصالت ویدئو.
- تحلیل مجزای هر چهره موجود در ویدئو و ارائه دلیل فنی برای تشخیص جعلی بودن هر مورد.
انتشار در Hugging Face و رویکرد مشارکتی
این مدل قرار است در کتابخانه Hugging Face تحت لایسنس پژوهشی و آموزشی قرار گیرد. هدف از این اقدام، ایجاد یک محیط مشارکتی است تا با پیشرفت تکنولوژی‌های تولید Deepfake در سال‌های آتی، جامعه متخصصان بتوانند مدل را به‌روزرسانی کرده و کارایی آن را افزایش دهند.
سایر ابتکارات امنیتی دبی
علاوه بر مدل Saraab، مرکز DESC دو طرح کلیدی دیگر را نیز معرفی کرده است:
- Dubai Cyber Skills Framework: یک چارچوب مرجع برای استانداردسازی صلاحیت‌ها، گواهینامه‌ها و مسیرهای شغلی متخصصان امنیت سایبری بر اساس استانداردهای بین‌المللی.
- برنامه گواهینامه ممیزی (Auditor Certification): طرحی برای تجهیز ممیزان جهت ارزیابی انطباق سازمان‌های دولتی و پیمانکاران بخش عمومی با مقررات امنیت اطلاعات (ISR) دبی.
