OpenAI เปิดตัว Model Distillation ใน API ช่วยให้ใช้โมเดลประสิทธิภาพสูงต้นทุนต่ำลง

เราขอแนะนำบริการ Model Distillation ใหม่ เพื่อมอบเวิร์กโฟลว์แบบครบวงจรให้นักพัฒนาสามารถจัดการไปป์ไลน์การกลั่นโมเดลทั้งหมดได้โดยตรงบนแพลตฟอร์มของ OpenAI ซึ่งช่วยให้สามารถใช้ผลลัพธ์จากโมเดลระดับแนวหน้าอย่าง o1‑preview และ GPT‑4o เพื่อปรับแต่งและปรับปรุงประสิทธิภาพของโมเดลที่ประหยัดต้นทุนอย่าง GPT‑4o mini ได้อย่างง่ายดาย

การกลั่นโมเดลคือการปรับแต่งโมเดลขนาดเล็กให้ใช้ผลลัพธ์จากโมเดลที่มีความสามารถสูงกว่า ทำให้สามารถทำงานเฉพาะทางได้เทียบเท่าโมเดลขั้นสูงแต่ด้วยต้นทุนที่ต่ำกว่ามาก ก่อนหน้านี้ กระบวนการนี้ต้องอาศัยการประสานงานด้วยตนเองหลายขั้นตอน ซึ่งทำให้เกิดความซับซ้อนสูง

ชุดเครื่องมือ Model Distillation ใหม่ของเราประกอบด้วย Stored Completions ที่ช่วยให้สามารถบันทึกคู่ข้อมูลอินพุต-เอาต์พุตที่สร้างโดยโมเดลต่างๆ เพื่อใช้เป็นชุดข้อมูลสำหรับการกลั่น และ Evals (Beta) ที่ช่วยให้สามารถสร้างและรันการประเมินเฉพาะทางเพื่อวัดประสิทธิภาพของโมเดลได้อย่างครบวงจรในแพลตฟอร์มเดียว

ศัพท์ที่ควรรู้

  • Model Distillation – กระบวนการปรับแต่งโมเดลขนาดเล็กโดยใช้ผลลัพธ์จากโมเดลที่เก่งกว่าเพื่อให้ได้ประสิทธิภาพใกล้เคียงแต่ต้นทุนต่ำกว่า
  • Frontier Models – โมเดลระดับแนวหน้า เช่น o1‑preview และ GPT‑4o ที่มีความสามารถสูงมาก
  • Stored Completions – ฟีเจอร์ที่บันทึกคู่ข้อมูลอินพุตและเอาต์พุตที่โมเดลสร้างขึ้น เพื่อใช้เป็นชุดข้อมูลสำหรับการปรับแต่ง
  • Evals – เครื่องมือสำหรับการประเมินโมเดลที่ช่วยวัดประสิทธิภาพของโมเดลต่อภารกิจเฉพาะโดยไม่ต้องทำด้วยตนเอง

ที่มา: OpenAI

Leave a Comment