บทความนี้สอนวิธีการให้ได้ผลลัพธ์ที่มีโครงสร้างจาก LLMs โดยการตรวจสอบกับสัญญา (contract) และข้อความต้นฉบับ การลองใหม่เมื่อจำเป็น และการจำกัดการสร้างเอาต์พุต
เมื่อทดสอบกับตัวแปลงจริง ควรบันทึกชื่อโมเดล เวอร์ชัน SDK ผลลัพธ์ และจำนวนครั้งที่พยายามต่อกรณี โดยต้องรายงานผลที่ผ่านการวิเคราะห์ ถูกต้องตามโครงสร้าง และตรงกับต้นฉบับเป็นสามคอลัมน์แยกกัน
ลองใหม่เมื่อการพยายามครั้งอื่นช่วยได้
ควรตั้งค่า max_retries=0 สำหรับงบประมาณที่พิสูจน์ได้ และเพิ่ม timeout ต่อการเรียกใช้ (ค่าเริ่มต้นคือสิบนาที ซึ่งนานเกินไปสำหรับการสกัดข้อมูล) พร้อมกำหนดเส้นตายโดยรวมในลูป
จำกัดการสร้างโดยไม่ละทิ้งการตรวจสอบ
หากข้อความไม่ได้ระบุค่าใดๆ ให้ใช้ null ในการตอบกลับ
รันทั้งสองเส้นทางผ่านกรณีความล้มเหลวเดียวกัน
เมื่อรันชุดทดสอบกับตัวแปลงจริง ให้บันทึกชื่อโมเดล เวอร์ชัน SDK ประเภทของผลลัพธ์ และจำนวนครั้งที่พยายามต่อกรณี โดยต้องปิดบังข้อความต้นฉบับในบันทึก
ศัพท์ที่ควรรู้
- LLM (Large Language Models) – คือแบบจำลองภาษาขนาดใหญ่ที่ใช้ในการประมวลผลและสร้างข้อความ Structured Outputs – คือผลลัพธ์ที่ถูกจัดรูปแบบอย่างเป็นระบบ เช่น JSON ทำให้คอมพิวเตอร์อ่านเข้าใจได้ง่าย Validation – คือกระบวนการตรวจสอบว่าผลลัพธ์ที่ได้นั้นถูกต้องตามเงื่อนไขหรือข้อตกลงที่กำหนดไว้หรือไม่ Constrained Decoding – คือการจำกัดขอบเขตของคำตอบที่โมเดลสามารถสร้างออกมาได้ เพื่อให้ตรงตามรูปแบบที่ต้องการ
ที่มา: machinelearningmastery.com