เมื่อ AI agent ต้องรับมือกับเวิร์กโฟลว์ที่ซับซ้อนขึ้น การลดเวลาในการฝึกจึงเป็นสิ่งสำคัญอย่างยิ่งสำหรับการปรับปรุงทั้งโมเดลและ agent ที่ขับเคลื่อนมัน ซึ่งพิสูจน์ว่าการเพิ่มประสิทธิภาพที่ได้รับตั้งแต่วันแรกนั้นครอบคลุมไปถึงไปป์ไลน์การสร้างแบบจำลองทั้งหมด ตั้งแต่การฝึกล่วงหน้าขนาดใหญ่ไปจนถึงการเรียนรู้แบบเสริมแรงหลังการฝึกสำหรับ AI agent ในยุคปัจจุบัน
การฝึกหลังการใช้งานมาถึง และ Vera Rubin เป็นผู้นำ
วงจรต่อเนื่องของการสร้าง rollout, การให้คะแนน และการอัปเดตน้ำหนัก ผลักดันสถาปัตยกรรมระบบไปถึงขีดจำกัด โดยบังคับให้มีการย้ายน้ำหนักจำนวนมหาศาลระหว่างเอนจิ้นอนุมานและการฝึก
การสอนให้โมเดลเหล่านี้สังเกต ให้เหตุผล และดำเนินการนั้นต้องรันแต่ละ rollout ในสภาพแวดล้อมจำลองและดำเนินการเรียกใช้เครื่องมือ การตรวจสอบโค้ด หรือ API validations ขณะที่ GPU จัดการการสร้างโทเค็นจำนวนมากและการอัปเดตน้ำหนักอย่างรวดเร็ว CPU ของ Vera ก็ทำงานควบคู่กันไปเพื่อจำลองสภาพแวดล้อมต่างๆ ทำให้มั่นใจว่าตัวเร่งจะมีข้อเสนอแนะที่จำเป็นอย่างต่อเนื่องเพื่อปรับปรุงเวิร์กโฟลว์ของ agent
NVLink, Quantum-X และ Spectrum-X: เครือข่ายที่ออกแบบร่วมกันเพื่อการขยาย AI ที่มีประสิทธิภาพสูง
ทั้งสองเฟรมเวิร์กใช้การกำหนดเส้นทางแบบปรับตัวและการควบคุมความแออัดเพื่อจัดการกับทราฟฟิก MoE ที่มีความผันผวน ทำให้การสื่อสารแบบทั้งหมดถึงทั้งหมดถูกซ่อนไว้เบื้องหลังเลเยอร์การคำนวณ
การปรับปรุงซอฟต์แวร์อย่างต่อเนื่อง: ปลดล็อกการฝึกล่วงหน้าที่เร็วขึ้นโดยไม่ต้องอัปเกรดฮาร์ดแวร์
ตัวอย่างเช่น Thinking Machines Lab ได้พัฒนาสูตรการฝึก NVFP4 และเคอร์เนลที่กำหนดเองสำหรับโมเดล Inkling 2 Small บน GB300 NVL72 โดยใช้ NVFP4 สำหรับ MoE GEMMs ใน forward-pass และ MXFP8 สำหรับ gradients
ระบบนิเวศที่พร้อมใช้งานตั้งแต่วันแรก
ด้วยการส่งเข้าใช้งานแบบปิด 80% ที่รันบนแพลตฟอร์มของ NVIDIA ในองค์กรพันธมิตร 20 แห่ง การทดสอบเหล่านี้จึงเป็นตัวแทนของประสิทธิภาพที่ทำซ้ำได้ในคลาวด์และ OEM แทนที่จะเป็นจุดสูงสุดในห้องปฏิบัติการที่แยกออกมา
ศัพท์ที่ควรรู้
- AI agent – ตัวแทนปัญญาประดิษฐ์ที่ทำงานตามขั้นตอนที่กำหนด
- Blackwell Ultra – สถาปัตยกรรมชิปขั้นสูงของ NVIDIA ที่ถูกนำมาเปรียบเทียบประสิทธิภาพ
- NVL72 – รุ่นของ hardware ที่ใช้ในการทดสอบประสิทธิภาพ
- MoE – Mixture of Experts คือสถาปัตยกรรมที่ใช้ในการประมวลผลโมเดลขนาดใหญ่
- NVLink, Quantum-X, Spectrum-X – เทคโนโลยีเครือข่ายที่ออกแบบมาเพื่อการสื่อสารระหว่างชิปอย่างมีประสิทธิภาพ
ที่มา: developer.nvidia.com