การให้บริการของ instances เหล่านี้จะเปิดให้ใช้งานทั่วไปในเดือนหน้า พร้อมแผนขยายไปยังยุโรป ซึ่งจะนำเสนอแพลตฟอร์มครบวงจรสำหรับการฝึกฝน (training), การอนุมาน (inference) และการเรียนรู้แบบเสริมแรงขนาดใหญ่สำหรับลูกค้าคลาวด์
A5X instances ได้รวมเอา NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, Google Cloud Virgo Network และเทคโนโลยีการระบายความร้อนขั้นสูงยุคที่สี่ของ Google Cloud เข้าไว้ด้วยกัน เพื่อรองรับเวิร์กโหลดการอนุมานและการเรียนรู้แบบเสริมแรงของเอเจนต์ที่ต้องการประสิทธิภาพสูงในระดับสเกล
WPP บริษัทด้านการตลาดในลอนดอน ได้สาธิตสถาปัตยกรรมเอเจนต์เชิงสร้างสรรค์บน A5X instances ที่ใช้ NVIDIA Vera Rubin โดยใช้โมเดล NVIDIA Nemotron และ NVIDIA OpenShell ซึ่งในการทดสอบเบื้องต้น เวิร์กโหลดที่เคยต้องใช้คลัสเตอร์หลายโหนดสามารถรันบน A5X instance เดียวได้
นอกจากนี้ Google Cloud ยังทำให้ Confidential Computing พร้อมใช้งานทั่วไปบน G4 VMs ที่ขับเคลื่อนด้วย NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs เพื่อเสนอแพลตฟอร์มที่ยืดหยุ่นสำหรับการอนุมานและการปรับแต่งแบบรักษาความลับ
ทั้งสองบริษัทกำลังศึกษาศักยภาพของ NVIDIA DSX MaxLPS สำหรับโครงสร้างพื้นฐาน Vera Rubin เพื่อสนับสนุนการปรับปรุงประสิทธิภาพต่อวัตต์และการขยายขีดความสามารถภายใต้ข้อจำกัดด้านพลังงานของศูนย์ข้อมูล
ศัพท์ที่ควรรู้
- General availability – การเปิดให้บริการทั่วไป หมายถึงผลิตภัณฑ์พร้อมให้ใช้งานสำหรับลูกค้าแล้ว
- A5X instances – คือกลุ่มของทรัพยากรคอมพิวเตอร์ที่รวมส่วนประกอบขั้นสูงหลายอย่างเข้าด้วยกัน
- Reinforcement learning – คือรูปแบบการเรียนรู้ของ AI ที่เอเจนต์เรียนรู้จากการลองผิดลองถูกเพื่อเพิ่มประสิทธิภาพ
- Confidential Computing – คือเทคโนโลยีที่ช่วยให้การประมวลผลข้อมูลสามารถทำได้โดยที่ข้อมูลยังคงถูกเข้ารหัสและเป็นความลับ
- NVIDIA Vera Rubin – คือสถาปัตยกรรมชิปขั้นสูงที่ใช้ในการประมวลผลของ NVIDIA
ที่มา: NVIDIA Blog