ในการเปิดตัวครั้งแรกในเกณฑ์มาตรฐาน MLPerf แพลตฟอร์ม NVIDIA Vera Rubin ได้แสดงประสิทธิภาพชั้นนำทั้งในส่วนของการฝึกฝนหลังการฝึก (post-training) และการอนุมานสำหรับ AI Agent ซึ่งปัจจุบัน AI Agent ถูกนำไปใช้ในหลากหลายด้าน ตั้งแต่การเขียนโค้ด การทำงานของธุรกิจ ไปจนถึงการวิจัยทางวิทยาศาสตร์
ผลลัพธ์ MLPerf Training v6.1 ที่ดึงมาจาก www.mlcommons.org ณ วันที่ 16 พฤศจิกายน 2026 แสดงให้เห็นถึงความสำคัญของการฝึกฝนที่รวดเร็วกว่า เพื่อให้ AI Agent ที่ฉลาดสามารถเข้าถึงผู้ใช้ได้เร็วขึ้น และช่วยให้โมเดลต่างๆ ทันต่อข้อมูลใหม่ๆ หรือภัยคุกคามใหม่ๆ
ในส่วนของ Agentic Inference นั้น NVIDIA Vera Rubin NVL72 (32 accelerators) ได้แสดงผลลัพธ์ เช่น TTFT P90 ที่ 4,673.9 ms และ TPS ที่ 41,414.2 tokens/sec ในการรันเคสเคสหนึ่ง
การเข้าร่วมใน MLPerf Training นั้นมีพันธมิตรของ NVIDIA เข้าร่วมอย่างกว้างขวาง โดยมี 20 องค์กร ได้แก่ ASUS, Azure, Cisco, CoreWeave, Crusoe, Dell Technologies, Firmus, Fujitsu, Giga Computing, Google Cloud, HPE, Inventec, Krai, Lambda, Nebius, Oracle, Quanta Cloud Technology (QCT), Supermicro, TTA และ University of Florida
ศัพท์ที่ควรรู้
- MLPerf – เป็นชุดเกณฑ์มาตรฐานที่ใช้ในการวัดประสิทธิภาพของระบบ AI ในด้านต่างๆ เช่น การฝึกฝนและการอนุมาน
- Training – คือกระบวนการที่ใช้ในการสอนหรือปรับปรุงโมเดล AI ให้เรียนรู้จากข้อมูล
- Inference – คือกระบวนการที่โมเดล AI ที่ได้รับการฝึกฝนแล้วนำไปใช้งานจริงเพื่อทำการคาดการณ์หรือตัดสินใจ
- Agentic Inference – คือการอนุมานที่เกี่ยวข้องกับ AI Agent ซึ่งเป็นระบบ AI ที่สามารถทำงานหลายขั้นตอนเพื่อบรรลุเป้าหมายเดียว
ที่มา: NVIDIA Blog