การใช้งาน Decision Model พุ่งสูง ชี้การปรับแต่งคืออนาคตใหม่

ในเดือนตุลาคม มีมากกว่าหนึ่งในสี่คำขอที่ผ่าน Vercel’s AI model router ถูกส่งไปยัง Decision Models แทนที่จะเป็น LLMs ซึ่งเป็นงานที่ต้องใช้ความฉลาดของคอมพิวเตอร์ที่เพิ่งถูกคิดค้นขึ้นเมื่อเดือนก่อน

Decision Models คือ LLMs ที่ไม่ได้สร้าง output tokens แต่ถูกปรับแต่งให้ใช้ความฉลาดทั่วไปในการตัดสินใจระหว่างตัวเลือกที่กำหนดไว้ล่วงหน้าได้อย่างรวดเร็วและประหยัด พร้อมทั้งบันทึกระดับความมั่นใจในการตัดสินใจนั้นๆ

TypeSafe กลายเป็นบริษัทมูลค่า 7.5 พันล้านเหรียญ หลังเปิดตัวโมเดล Jev family ซึ่งยังคงครองการใช้งาน (อย่างน้อยในส่วนที่เห็นจากบริการอย่าง OpenRouter ที่จัดการคำขอไปยังโมเดลของ TypeSafe มากกว่า 1.5 พันล้านครั้งเมื่อสัปดาห์ที่แล้ว)

Sqwish สตาร์ทอัพ AI ในสหราชอาณาจักรเบื้องหลัง Decision Model ชื่อ kettei fat ได้ประกาศระดมทุนรอบ pre-seed มูลค่า 3 ล้านเหรียญ โดย CEO ของ TypeSafe กล่าวว่าข้อมูลคือกุญแจสำคัญในการสร้างโมเดลที่ประสบความสำเร็จ

CEO Ushnish Sengupta กล่าวว่าสิ่งที่ทำให้พวกเขาแตกต่างจากสินค้าทั่วไปคือการที่ลูกค้าสามารถอัปโหลดข้อมูลการผลิตของตนเอง และโมเดลก็จะเรียนรู้และเก่งขึ้นในงานที่ลูกค้าสนใจได้เช่นเดียวกับการฝึกโมเดลของพวกเขา

การจัดอันดับ Decision Models นั้นทำได้ยาก เนื่องจากโมเดล “kettei fat” ของ Sqwish ทำงานได้ดีในบางเกณฑ์มาตรฐาน แต่ผู้สร้างส่วนใหญ่เห็นว่าการพิสูจน์ที่แท้จริงคือการใช้งานจริงในบริบทเฉพาะ เนื่องจากโมเดลที่ “benchmaxed” มักจะใช้งานจริงในระดับองค์กรได้ไม่ดีนักอย่างรวดเร็ว

ศัพท์ที่ควรรู้

  • Decision Models – คือ LLMs ที่ถูกปรับแต่งให้ใช้ความฉลาดในการตัดสินใจระหว่างตัวเลือกที่กำหนดไว้ล่วงหน้าอย่างรวดเร็วและประหยัด
  • LLMs – คือแบบจำลองภาษาขนาดใหญ่ที่สร้างเอาต์พุตเป็นโทเค็น (tokens) ซึ่งเป็นรูปแบบการทำงานแบบดั้งเดิม
  • Vercel’s AI model router – คือระบบที่ทำหน้าที่เป็นตัวกลางในการส่งคำขอไปยัง AI Model ต่างๆ
  • TypeSafe – คือบริษัทที่ประสบความสำเร็จจากการเปิดตัวโมเดล Jev family ซึ่งเป็น Decision Model

ที่มา: TechCrunch

Leave a Comment