การเลือก Learning Rate แบบควอนตัมในโมเดลภาษา: เกณฑ์การยุติและการปรับตารางการฝึก

การเลือก Learning Rate มีผลอย่างมากต่อการปรับแต่งโมเดลภาษา แต่โปรไฟล์ร่วมที่ดีที่สุดสำหรับกลุ่มเลเยอร์นั้นยังไม่เป็นที่ทราบแน่ชัด งานวิจัยนี้จึงศึกษาการค้นหาค่าต่ำสุดแบบควอนตัมสำหรับเลือก Learning Rate ของกลุ่มเลเยอร์ภายในกรอบการฝึกแบบไฮบริดคลาสสิก-ควอนตัม

มีการผสมผสานการค้นหาค่าต่ำสุดของ Durr-Hoyer เข้ากับการค้นหา BBHT และเปรียบเทียบเชิงนโยบายการหยุดแบบคงที่งบประมาณและตามความเชื่อมั่น โดยใช้ Oracle ที่สร้างจากคะแนนโปรไฟล์ที่วัดได้ ณ จุดตรวจสอบการฝึกที่กำหนด

นอกจากนี้ยังมีการนำเสนอ Interaction-Guided Schedule Oracle ซึ่งให้คะแนนและทำเครื่องหมายตารางการฝึกในสถานะซูเปอร์โพซิชันโดยไม่จำเป็นต้องมีตารางคะแนนที่คำนวณไว้ล่วงหน้า โดยใช้การวัดค่า Loss จากการฝึกแบบคลาสสิกเพื่อระบุผลกระทบหลัก ผลกระทบแบบคู่ และผลกระทบแบบสามทางระหว่างกลุ่มเลเยอร์

ในการทดลองปิดลูปสำหรับการปรับแต่งโมเดลภาษาขนาด 1.5 พันล้านพารามิเตอร์ แต่ละตารางที่ถูกเลือกจะขับเคลื่อนการฝึกแบบคลาสสิกต่อไปอีก 200 ขั้นตอน ซึ่งแสดงให้เห็นถึงการใช้งานจริงของซูเปอร์โพซิชันควอนตัมในการเลือก Learning Rate แบบปรับตัวระหว่างการฝึก

ศัพท์ที่ควรรู้

  • Learning-rate – อัตราการเรียนรู้คือค่าที่กำหนดว่าโมเดลจะปรับน้ำหนักระหว่างการฝึกมากน้อยเพียงใด
  • Hybrid classical-quantum training framework – กรอบการฝึกแบบผสมผสานระหว่างคอมพิวเตอร์คลาสสิกและควอนตัมที่ทำงานร่วมกัน
  • Durr-Hoyer minimum finding – วิธีการค้นหาค่าต่ำสุดที่ใช้ในการหาค่าที่เหมาะสมที่สุดของระบบ
  • Interaction-Guided Schedule Oracle – ออราเคิลที่นำทางการปรับตารางการฝึกโดยใช้ผลลัพธ์จากการวัดค่า
  • Superposition – สถานะควอนตัมที่อนุญาตให้ระบบอยู่ในหลายสถานะพร้อมกันก่อนการวัด

ที่มา: arxiv.org

Leave a Comment