NVIDIA Minerva ถูกเปิดตัวในวันนี้ โดยเป็นแพลตฟอร์ม AIOps ที่สร้างขึ้นเพื่อช่วยให้ทีมสามารถค้นหาปัญหาได้เร็วขึ้นและรักษา AI factory ให้มีผลิตภาพสูงสุด เนื่องจาก AI factory เป็นหนึ่งในปฏิบัติการที่ซับซ้อนที่สุดในโลก ซึ่งมีการทำงานของ GPU จำนวนมากผ่านเครือข่ายความเร็วสูงเพื่อฝึกโมเดลและให้บริการ AI แอปพลิเคชัน
Minerva ช่วยให้ผู้ปฏิบัติงานสามารถติดตามงานฝึกสอนที่ช้าไปยังส่วนประกอบที่เป็นสาเหตุ แม้ในโรงงานที่มี GPU นับแสนตัว โดยแพลตฟอร์มจะเรียนรู้พฤติกรรมปกติ ตรวจจับความผิดปกติที่ไม่เคยพบมาก่อน คาดการณ์ความล้มเหลวที่กำลังจะเกิดขึ้น และเชื่อมโยงเหตุการณ์ต่างๆ ตามโทโพโลยีของโรงงาน แทนที่จะส่งอาการทั้งหมดไปยังผู้ปฏิบัติงาน มันสามารถจัดกลุ่มพายุเหตุการณ์ให้กลายเป็นเหตุการณ์เฉพาะที่มีสาเหตุหลักที่น่าจะเป็นไปได้
Denis Skrinnikoff, CTO ของ IREN กล่าวว่า Minerva ช่วยให้ทีมปฏิบัติการมีมุมมองเดียวทั่วทั้งเครือข่าย GPU และงานที่กำลังทำงานอยู่ ทำให้พวกเขามุ่งเน้นไปที่การบำรุงรักษาเชิงรุก แทนที่จะเป็นการแก้ไขปัญหาเฉพาะหน้า และมีบริษัทต่างๆ เช่น Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI และ Tesla วางแผนที่จะนำ Minerva ไปใช้งาน
ศัพท์ที่ควรรู้
- AI factory – โรงงาน AI คือระบบคอมพิวเตอร์ขนาดใหญ่ที่ใช้ GPU จำนวนมากในการฝึกโมเดลและการให้บริการ AI
- AIOps – เป็นแพลตฟอร์มที่ใช้ปัญญาประดิษฐ์ในการจัดการและตรวจจับปัญหาในระบบไอทีโดยอัตโนมัติ
- GPU – หน่วยประมวลผลกราฟิก (Graphics Processing Unit) คือชิปที่ใช้ในการประมวลผลคำนวณจำนวนมากสำหรับงาน AI
- Yield – ในบริบทนี้หมายถึงอัตราการผลิตที่มีประโยชน์ของโครงสร้างพื้นฐาน AI ที่วัดจากชั่วโมง GPU, goodput และการผลิตโทเค็น
ที่มา: NVIDIA Blog