ในเดือนตุลาคม มีมากกว่าหนึ่งในสี่คำขอที่ผ่าน Vercel’s AI model router ถูกส่งไปยัง Decision Models แทนที่จะเป็น LLMs ซึ่งเป็นงานที่ต้องใช้ความฉลาดของคอมพิวเตอร์ที่เพิ่งถูกคิดค้นขึ้นเมื่อเดือนก่อน
Decision Models คือ LLMs ที่ไม่ได้สร้าง output tokens แต่ถูกปรับแต่งให้ใช้ความฉลาดทั่วไปในการตัดสินใจระหว่างตัวเลือกที่กำหนดไว้ล่วงหน้าได้อย่างรวดเร็วและประหยัด พร้อมทั้งบันทึกระดับความมั่นใจในการตัดสินใจนั้นๆ
TypeSafe กลายเป็นบริษัทมูลค่า 7.5 พันล้านเหรียญ หลังเปิดตัวโมเดล Jev family ซึ่งยังคงครองการใช้งาน (อย่างน้อยในส่วนที่เห็นจากบริการอย่าง OpenRouter ที่จัดการคำขอไปยังโมเดลของ TypeSafe มากกว่า 1.5 พันล้านครั้งเมื่อสัปดาห์ที่แล้ว)
Sqwish สตาร์ทอัพ AI ในสหราชอาณาจักรเบื้องหลัง Decision Model ชื่อ kettei fat ได้ประกาศระดมทุนรอบ pre-seed มูลค่า 3 ล้านเหรียญ โดย CEO ของ TypeSafe กล่าวว่าข้อมูลคือกุญแจสำคัญในการสร้างโมเดลที่ประสบความสำเร็จ
CEO Ushnish Sengupta กล่าวว่าสิ่งที่ทำให้พวกเขาแตกต่างจากสินค้าทั่วไปคือการที่ลูกค้าสามารถอัปโหลดข้อมูลการผลิตของตนเอง และโมเดลก็จะเรียนรู้และเก่งขึ้นในงานที่ลูกค้าสนใจได้เช่นเดียวกับการฝึกโมเดลของพวกเขา
การจัดอันดับ Decision Models นั้นทำได้ยาก เนื่องจากโมเดล “kettei fat” ของ Sqwish ทำงานได้ดีในบางเกณฑ์มาตรฐาน แต่ผู้สร้างส่วนใหญ่เห็นว่าการพิสูจน์ที่แท้จริงคือการใช้งานจริงในบริบทเฉพาะ เนื่องจากโมเดลที่ “benchmaxed” มักจะใช้งานจริงในระดับองค์กรได้ไม่ดีนักอย่างรวดเร็ว
ศัพท์ที่ควรรู้
- Decision Models – คือ LLMs ที่ถูกปรับแต่งให้ใช้ความฉลาดในการตัดสินใจระหว่างตัวเลือกที่กำหนดไว้ล่วงหน้าอย่างรวดเร็วและประหยัด
- LLMs – คือแบบจำลองภาษาขนาดใหญ่ที่สร้างเอาต์พุตเป็นโทเค็น (tokens) ซึ่งเป็นรูปแบบการทำงานแบบดั้งเดิม
- Vercel’s AI model router – คือระบบที่ทำหน้าที่เป็นตัวกลางในการส่งคำขอไปยัง AI Model ต่างๆ
- TypeSafe – คือบริษัทที่ประสบความสำเร็จจากการเปิดตัวโมเดล Jev family ซึ่งเป็น Decision Model
ที่มา: TechCrunch