นักวิจัยของ Airbnb ได้เปิดตัว CASTLE ซึ่งเป็นเฟรมเวิร์กที่ออกแบบมาเพื่อจัดการกับปัญหาการเริ่มต้นใช้งาน (cold-start) ในการค้นหาด้วยภาษาธรรมชาติ
แนวทางนี้ใช้เซสชันการจองที่ถูกปกปิดข้อมูลและ LLMs เพื่อสร้างคำค้นหาและป้ายกำกับความเกี่ยวข้องสังเคราะห์ ทำให้สามารถฝึกโมเดลได้ก่อนที่จะมีปริมาณการค้นหาจริงเพียงพอ
การค้นหาด้วยภาษาธรรมชาติช่วยให้ผู้เข้าพักสามารถอธิบายความต้องการของตนด้วยภาษาในชีวิตประจำวัน เช่น “กระท่อมโรแมนติกใกล้สกี” หรือ “บ้านชายหาดสำหรับสัตว์เลี้ยงที่นอนได้แปดคน” แทนที่จะต้องพึ่งพาตัวกรองที่กำหนดไว้ล่วงหน้า
เฟรมเวิร์กนี้รวมกลยุทธ์การสร้างคำค้นหาสามแบบ ได้แก่ prompt ตามเทมเพลต, few-shot prompt โดยใช้คำค้นหาเริ่มต้นประมาณ 500 คำ และ attribute-grounded prompts ที่เน้นการแยกแยะลักษณะของที่พัก
สำหรับคู่ของรายการที่พักที่ไม่มีประวัติการจองเพียงพอ CASTLE ใช้ Virtual Judge ซึ่งเป็น LLM-based evaluator ในการกำหนดป้ายกำกับความเกี่ยวข้องให้กับคู่คำค้นหา-รายการที่พักเพิ่มเติม
Mark Tsai ได้ตั้งคำถามเกี่ยวกับการทับซ้อนระหว่างข้อมูลฝึกและข้อมูลประเมิน แต่ Wendy Ran Wei ได้ชี้แจงว่าทีมได้ประเมินโมเดลด้วยคำค้นหาจริงที่ยังไม่เคยเห็น และได้ใช้ guardrails ป้องกันการรั่วไหลของข้อมูลในการสร้างชุดข้อมูลประเมิน
ศัพท์ที่ควรรู้
- cold-start problem – ปัญหาที่เกิดขึ้นเมื่อระบบใหม่ไม่มีข้อมูลเพียงพอในการทำงาน
- LLMs – Large Language Models คือแบบจำลองภาษาขนาดใหญ่ที่ใช้ในการประมวลผลภาษาธรรมชาติ
- Synthetic search queries – คำค้นหาที่ถูกสร้างขึ้นโดยปัญญาประดิษฐ์เพื่อใช้ในการฝึกโมเดล
- Virtual Judge – ระบบประเมินที่ขับเคลื่อนด้วย LLM ใช้ในการตัดสินความเกี่ยวข้องของคำค้นหาและที่พัก
- Guardrails – มาตรการป้องกันที่ใช้เพื่อป้องกันไม่ให้ข้อมูลรั่วไหลระหว่างการฝึกและการประเมิน
ที่มา: infoq.com