استفاده از مدل‌های زبانی بزرگ (LLM) برای تجمیع و ادغام مستندات فنی، چالشی جدی به نام Hallucination یا توهم را به همراه دارد. در محیط‌های حساس مانند Knowledge Base، یک خطای کوچک یا حذف یک پیش‌نیاز فنی می‌تواند منجر به ارائه اطلاعات نادرست به کاربران شود. مشکل اصلی این است که خروجی‌های LLM به دلیل تسلط بر ساختار زبان (Fluency)، بسیار متقاعدکننده به نظر می‌رسند و تشخیص خطاهای جزئی در آن‌ها برای بازبین انسانی دشوار است.
جداسازی تولید از تایید (Generation vs Verification)
برای حل این مشکل، نباید از مدل خواسته شود که هم محتوا را تولید کند و هم صحت آن را تایید نماید. رویکرد پیشنهادی بر پایه جداسازی این دو مرحله است:
- مرحله اول (Merge): مدل دو مقاله را ادغام کرده و یک نسخه واحد می‌سازد. در این مرحله محدودیت‌های سخت‌گیرانه‌ای اعمال می‌شود: بلوک‌های کد، دستورات (Commands)، نسخه‌ها و URLها باید دقیقاً به‌صورت Verbatim کپی شوند و هیچ تغییری نپذیرند.
- مرحله دوم (Verify): در این مرحله، مدل به جای بررسی کلی، هر مقاله منبع را به Atomic Claims یا «ادعاهای اتمی» تجزیه می‌کند. ادعای اتمی کوچک‌ترین واحد اطلاعاتی است که قابل بررسی باشد (مثلاً: «این تنظیمات باید قبل از ری‌استارت اعمال شود»).
مکانیزم بررسی ادعاهای اتمی
در این متدولوژی، هر ادعای استخراج شده از منابع اصلی با خروجی ادغام شده تطبیق داده شده و در یکی از سه وضعیت قرار می‌گیرد:
- Present: ادعا به‌طور کامل در متن نهایی وجود دارد.
- Partial: بخشی از ادعا منتقل شده یا دقت آن تغییر کرده است (مثلاً تغییر نسخه 8.12 به 8.x).
- Missing: ادعا به‌طور کامل حذف شده است.
این فرآیند، یک پرسش کلی مانند «آیا این ادغام درست است؟» را به صدها پرسش بله/خیر تبدیل می‌کند که مدل‌های فعلی در پاسخ به آن‌ها بسیار قابل اعتمادتر هستند.
تغییر نقش بازبین انسانی
با این روش، نقش مهندس امنیت یا نویسنده فنی از «بازخوانی کامل دو مقاله» به «تصمیم‌گیری در مورد موارد استثنا» تغییر می‌کند. بازبین به جای بررسی کل متن، تنها لیستی از ادعاهای Missing یا Partial و تضادهای شناسایی شده (Conflict Log) را دریافت می‌کند. این امر زمان بررسی را از یک ساعت به پنج دقیقه کاهش داده و احتمال خطای انسانی را به شدت پایین می‌آورد.
اصول کلیدی برای پیاده‌سازی در جریان‌های کاری حساس
برای استفاده از LLM در محیط‌های با ریسک بالا، رعایت نکات زیر ضروری است:
- عدم تایید خودکار: هرگز اجازه ندهید مدل تولیدکننده، صحت کار خود را تایید کند.
- تجزیه به اتم‌ها: کیفیت کلی قابل اندازه‌گیری نیست، اما ادعاهای اتمی قابل تایید هستند.
- شفاف‌سازی حذف‌ها: خطر اصلی نه تنها توهم، بلکه «حذف خاموش» (Silent Loss) اطلاعات است. فهرست کردن تمام ادعاهای منبع، تنها راه مقابله با این ریسک است.
- ثبیت داده‌های فنی: دستورات و شناسه‌ها نباید توسط مدل بازنویسی شوند؛ آن‌ها باید به عنوان داده (Data) و نه متن (Prose) تلقی شوند.
