Inkling 2 Small ได้ถูกฝึกฝนโดยใช้ข้อมูล 12T tokens และสามารถดำเนินการฝึกเสร็จสิ้นได้ภายในระยะเวลา 68 ชั่วโมง ซึ่งแสดงให้เห็นถึงประสิทธิภาพที่เหนือกว่าโมเดล Muse Spark
ในส่วนของ Z.ai ได้มีการเปิดเผยถึงขั้นตอนการฝึกฝนสำหรับโมเดล GLM-5.5 รุ่นต่างๆ ทั้ง 32B, 122B และ 256B ในระหว่างการบรรยายที่ Tsinghua
มีการเปรียบเทียบโมเดลต่างๆ เช่น Unsloth V3.1 กับ GSQ-RCO ในเกณฑ์มาตรฐานต่างๆ เช่น DeepSWE v1.1 และ MMLU-Pro โดยมีการอ้างอิงถึงการปล่อย GGUF บน Hugging Face
การทดสอบด้าน Agentic Coding และความปลอดภัยทางไซเบอร์พบข้อผิดพลาดหลายอย่าง เช่น การเขียนเทสต์ที่เข้ารหัสพฤติกรรมที่ไม่ถูกต้อง และบั๊กควบคุมการหยุดทำงาน ซึ่ง Codex ได้ทำการตรวจสอบและพบข้อผิดพลาดที่ได้รับการยืนยัน 16 จุด
ในส่วนของ Local Inference Systems มีข้อควรระวังเกี่ยวกับข้อจำกัดด้าน VRAM และปัญหาการจัดการหน่วยความจำของ vLLM ที่อาจเกิดขึ้นในการใช้งานโมเดลขนาดใหญ่
ศัพท์ที่ควรรู้
- Inkling 2 Small – คือชื่อของโมเดล AI ที่ถูกนำเสนอในการฝึกฝนครั้งนี้
- 12T tokens – หมายถึงปริมาณข้อมูลจำนวนมหาศาลที่ใช้ในการฝึกฝนโมเดล
- Muse Spark – คือโมเดล AI ที่ถูกนำมาใช้เป็นเกณฑ์เปรียบเทียบประสิทธิภาพของ Inkling 2 Small
- GLM-5.5 – คือซีรีส์ของโมเดลที่กำลังจะเปิดตัวจาก Z.ai ซึ่งมีหลายขนาด เช่น 32B และ 256B
- Agentic Coding – คือการทดสอบความสามารถของ AI ในการเขียนโค้ดและทำงานแบบตัวแทน
ที่มา: latent.space