EditVeto: กลไกควบคุมการแก้ไขของ LLM สำหรับการแก้ไขหลัง OCR

LLM มีศักยภาพในการซ่อมแซมข้อความที่เกิดจาก OCR ของเอกสารเก่า แต่ก็อาจเปลี่ยนแปลงข้อความที่ถูกต้องไป ดังนั้นผู้วิจัยจึงเสนอ EditVeto ซึ่งเป็นเกตควบคุมที่ติดตั้งหลังจาก LLM ทำการเขียนใหม่แบบบริบทเต็ม

การเขียนใหม่จะถูกจัดเรียงตามตัวอักษรจากอินพุต OCR และความแตกต่างจะถูกแบ่งเป็นบล็อก ซึ่งเกตขนาด 0.6B จะทำหน้าที่รักษาหรือย้อนกลับการแก้ไขในแต่ละบล็อก

การวิเคราะห์จาก Oracle ชี้ว่าการสร้างข้อความใหม่ทั้งหมดนั้นแย่กว่าการไม่แก้ไข หากทราบตำแหน่งข้อผิดพลาดที่แท้จริง แต่การใช้ veto กับการแก้ไขทั้งหมดของฉบับเขียนใหม่นั้นช่วยได้มาก

เมื่อฝึกฝนด้วยการเขียนใหม่จากสองโมเดล Qwen3 และทดสอบกับชุดข้อมูล HIPE-OCRepair-2026 พบว่าเกตนี้ช่วยปรับปรุงตัวเขียนใหม่ทั้งห้าตัวที่ทดสอบ โดยค่า cMER ลดลง 0.0026-0.0044 และคะแนนความชอบเพิ่มขึ้น 0.15-0.25

ในการทดสอบครั้งที่สอง พบว่าเกตที่ฝึกใหม่ยังคงช่วยปรับปรุงตัวเขียนใหม่ที่ปรับแต่งด้วย LoRA ได้ โดยการรวมการแก้ไขของพวกมันสามารถให้ค่า cMER ที่ 0.0069 และคะแนนความชอบ 0.928

ศัพท์ที่ควรรู้

  • OCR – Optical Character Recognition คือกระบวนการแปลงภาพของตัวอักษรให้เป็นข้อมูลดิจิทัลที่สามารถแก้ไขได้
  • LLM – Large Language Model คือแบบจำลองภาษาขนาดใหญ่ที่ใช้ในการประมวลผลและสร้างข้อความ
  • EditVeto – คือกลไกเกตที่ติดตั้งหลังการเขียนใหม่ของ LLM เพื่อตัดสินใจว่าจะเก็บหรือยกเลิกการแก้ไขในแต่ละส่วน
  • cMER – คือตัวชี้วัดที่ใช้วัดความแตกต่างระหว่างข้อความที่แก้ไขกับต้นฉบับ
  • Qwen3 – คือชื่อของโมเดล LLM ที่ถูกนำมาใช้ในการฝึกฝนและทดสอบงานวิจัยนี้

ที่มา: arxiv.org

Leave a Comment