AI agents ในปัจจุบันทำงานมากกว่าแค่การสร้างคำตอบ แต่ยังรวมถึงการค้นหาข้อมูล การสอบถามฐานข้อมูล การเขียนและทดสอบโค้ด และการดำเนินการต่างๆ ซึ่งแต่ละขั้นตอนต้องอาศัย CPU และ Agent จะสลับระหว่างการให้เหตุผลของ GPU และการดำเนินการของ CPU ตลอดภารกิจ
เมื่อธุรกิจนำ Agent มาใช้งานมากขึ้น ศูนย์ข้อมูล AI จำเป็นต้องมี CPU ที่สามารถดำเนินการเหล่านี้ได้อย่างรวดเร็วและรองรับหลาย Agent พร้อมกันภายใต้ข้อจำกัดด้านพลังงาน ดังนั้นผู้ให้บริการต้องเลือกโครงสร้างพื้นฐานที่ใช้พลังงานคุ้มค่าที่สุด
NVIDIA Vera ตอบโจทย์นี้ด้วยการให้ทั้งประสิทธิภาพของ Agent ที่รวดเร็วและศักยภาพสูงต่อวัตต์ใน CPU เดียว ซึ่งแตกต่างจากการต้องผสมผสานส่วนประกอบ x86 ที่เร็วและหนาแน่นเพื่อรักษาสมดุล
ข้อมูลเปรียบเทียบในศูนย์ข้อมูลขนาด 100 เมกะวัตต์ พบว่า Vera CPU ทำงานได้ดีกว่าทั้ง x86 CPU ที่เร็วที่สุดและที่ประหยัดพลังงานที่สุด ขณะที่ผู้ใช้กลุ่มแรกรายงานผลลัพธ์ที่โดดเด่น เช่น Perplexity ทำงาน Agentic coding ได้เร็วกว่า 1.5 เท่า และ Daytona เปิดใช้งาน 1,000 agent sandboxes ใน 10.8 วินาที เทียบกับ 88.4 วินาทีของ x86
ที่มา: NVIDIA Blog