سیستم‌های حقوقی، مبانی نظم اجتماعی را در قالب زبان طبیعی (Natural Language) کدگذاری می‌کنند. مشابه سیستم‌های کامپیوتری، قوانین مکتوب نیز می‌توانند حاوی آسیب‌پذیری‌هایی (Vulnerabilities) باشند که امکان سوءاستفاده یا اکسپلویت (Exploit) را فراهم می‌کنند. در حالی که دادگاه‌ها معمولاً این شکاف‌ها را از طریق تفسیر قوانین پوشش می‌دهند، با ظهور سیستم‌های هوش مصنوعی بسیار توانمند، این روند در حال تغییر است.
در بررسی‌های اخیر، محققان موفق شده‌اند با استفاده از مدل‌های زبانی بزرگ (LLMs)، تعداد قابل توجهی از آسیب‌پذیری‌های موجود در سیستم حقوقی آلمان را شناسایی کنند که پیش از این هرگز ثبت نشده بودند. این پژوهش نشان می‌دهد که با گسترش تحلیل‌های حقوقی ارزان‌قیمت توسط هوش مصنوعی، عملکرد سیستم‌های قضایی فعلی می‌تواند با مخاطره مواجه شود.
این یافته‌ها حاکی از آن است که قانون‌گذاران باید فرآیند تدوین قوانین را با استفاده از ابزارهای پیشرفته هوش مصنوعی مقاوم‌سازی (Harden) کنند تا در برابر حملات مبتنی بر استدلال‌های ماشینی محافظت شوند. اگرچه این موضوع هنوز در مراحل اولیه خود قرار دارد، اما پتانسیل تبدیل شدن به یک تهدید جدی را داراست.
