استارتاپ Fulcrum مدل زبانی جدیدی به نام Echo را معرفی کرده است که ادعا می‌کند قادر است متون را دقیقاً با سبک نوشتاری هر نویسنده یا شخصیتی تولید کند. این ابزار تلاش می‌کند تا فراتر از تولید محتوای عمومی رفته و ویژگی‌های منحصر‌به‌فرد نگارشی افراد را شبیه‌سازی نماید.
چالش‌های اخلاقی و حقوقی تقلید هوش مصنوعی
در حالی که مدل‌های Generative AI پیش از این در زمینه تقلید از سبک‌های بصری هنرمندان و شبیه‌سازی صدا (Voice Imitation) با جنجال‌های گسترده و دعاوی حقوقی مواجه بوده‌اند، مدل Echo این چالش را به حوزه متن منتقل کرده است. این موضوع پرسش‌های مهمی را در مورد حقوق مالکیت معنوی و حریم خصوصی نویسندگان ایجاد می‌کند.
ارزیابی فنی و عملکرد
در بررسی‌های عملی، مدل Echo توانایی قابل‌توجهی در بازتولید لحن و دیدگاه‌های نویسنده نشان داده است، اما همچنان با محدودیت‌هایی در درک عمیق ساختار جملات و انسجام منطقی مواجه است. برخی از نقاط ضعف شناسایی شده عبارتند از:
- ساختار جملات: گاهی اوقات مدل در انتخاب کلمات کلیدی برای حفظ انسجام متن دچار خطا می‌شود.
- تولید محتوای توهمی (Hallucination): در برخی موارد، مدل برای حفظ سبک نوشتاری، اطلاعاتی را تولید می‌کند که با داده‌های ورودی یا واقعیت‌های موجود همخوانی ندارد.
- شبیه‌سازی سطحی: مدل بیشتر بر روی الگوهای تکرار شونده متمرکز است تا درک عمیق از استدلال‌های نویسنده.
پیامدهای امنیتی و اجتماعی
توانایی بالای این مدل در تقلید از سبک نوشتاری می‌تواند ریسک حملات Social Engineering و فیشینگ هدفمند را افزایش دهد. اگر یک عامل تهدید (Threat Actor) بتواند سبک نوشتاری یک مدیر ارشد یا شخصیتی تاثیرگذار را با دقت بالا شبیه‌سازی کند، احتمال موفقیت در حملات مهندسی اجتماعی به‌طور چشمگیری افزایش می‌یابد.
