Kubernetes ซึ่งเป็นระบบ Open Source ที่จัดการการรันแอปพลิเคชันในโรงงาน AI นับพัน ได้กลายเป็นรากฐานของ AI และความต้องการก็เพิ่มสูงขึ้น การพัฒนาเหล่านี้ตอกย้ำการทำให้ Kubernetes เป็นรากฐานชั้นนำสำหรับ AI Workloads ในระดับสเกล
NVIDIA ได้บริจาค OpenShell ให้กับ CNCF เพื่อให้ชุมชนสามารถสร้าง ตรวจสอบ และปรับปรุงโครงสร้างพื้นฐานด้านความปลอดภัยสำหรับ Autonomous Agents ได้ ซึ่งช่วยเร่งการพัฒนาและเสริมความแข็งแกร่งของมาตรการรักษาความปลอดภัย
ในการขยายการทำงานของ Agent บน Kubernetes นั้น NVIDIA ได้สนับสนุน Agent Substrate ซึ่งเป็นโครงการของ Google ใน CNCF Sandbox โดยทำงานร่วมกับ NVIDIA Dynamo สำหรับการอนุมานโมเดล และ KAI Scheduler สำหรับการจัดสรรทรัพยากรคลัสเตอร์ร่วมกัน ทำให้สามารถปรับขนาด Agent Workloads ได้โดยไม่ต้องรันคอมพิวเตอร์เฉพาะสำหรับทุกเซสชัน
การร่วมมือกับ Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud และ vCluster พร้อมกับ Firmus และ SK Telecom ได้รวมเอาความสามารถของ NVKE และ NVKR เข้าไปในข้อเสนอของพวกเขา ซึ่งช่วยให้การเริ่มต้นใช้งาน การกู้คืน และความยืดหยุ่นสำหรับ Inference และ Agentic Workloads บน Kubernetes เร็วขึ้นมาก
Crusoe ได้ทดสอบ GLM-5.3 บน Crusoe Cloud และลดเวลาที่ Workload พร้อมใช้งานจากประมาณแปดนาทีเหลือเพียง 31 วินาที ขณะที่ Saturn Cloud ได้ทดสอบ Snapshot สำหรับ Inference แบบ Scale-from-zero และลดเวลาเริ่มต้นของ vLLM จากสองถึง 8.5 นาที เหลือเพียง 6 และ 34 วินาที
การรักษาความปลอดภัย AI Agents ในแบบเปิด
การบริจาค OpenShell ของ NVIDIA ให้กับ CNCF ทำให้โครงสร้างพื้นฐานด้านความปลอดภัยสำหรับ Autonomous Agents อยู่ในมือของชุมชนเพื่อสร้าง ตรวจสอบ และปรับปรุง ซึ่งช่วยเร่งการพัฒนาและเสริมความแข็งแกร่งของมาตรการป้องกัน
การขยายการทำงานของ Agent บน Kubernetes
NVIDIA กำลังสนับสนุน Agent Substrate ซึ่งเป็นโครงการที่ริเริ่มโดย Google ใน CNCF Sandbox โดยทำงานร่วมกับ NVIDIA Dynamo สำหรับการอนุมานโมเดล และ KAI Scheduler สำหรับการจัดสรรทรัพยากรคลัสเตอร์ร่วมกัน ทำให้สามารถปรับขนาด Agent Workloads ได้โดยไม่ต้องรันคอมพิวเตอร์เฉพาะสำหรับทุกเซสชัน
การสร้างรากฐานแบบเปิดสำหรับ AI Factories
Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud และ vCluster ร่วมกับ Firmus และ SK Telecom ได้ปรับแนวทางกับ NVIDIA เพื่อนำความสามารถของ NVKE และ NVKR เข้าไปในข้อเสนอของพวกเขา ซึ่งเป็นส่วนประกอบแบบโมดูลาร์ Open Source ที่สามารถกู้คืนสำเนาที่ถูกตรวจสอบได้ภายในไม่กี่วินาที โดยไม่ต้องโหลดหรือวอร์มอัพโมเดล ทำให้การเริ่มต้นใช้งาน การกู้คืน และความยืดหยุ่นสำหรับ Inference และ Agentic Workloads บน Kubernetes เร็วขึ้นมาก
Crusoe ซึ่งเป็นผู้มีส่วนร่วมต้นทางของ Snapshot ได้ทดสอบ GLM-5.3 บน Crusoe Cloud และลดเวลาที่ Workload พร้อมใช้งานจากประมาณแปดนาทีเหลือเพียง 31 วินาที ขณะที่ Saturn Cloud ซึ่งเป็นแพลตฟอร์ม Token Factory ได้ทดสอบ Snapshot สำหรับ Inference แบบ Scale-from-zero และลดเวลาเริ่มต้นของ vLLM จากสองถึง 8.5 นาที เหลือเพียง 6 และ 34 วินาที
ศัพท์ที่ควรรู้
- Kubernetes – ระบบ Open Source ที่ใช้จัดการการรันแอปพลิเคชันในสภาพแวดล้อม AI ขนาดใหญ่
- OpenShell – การบริจาคของ NVIDIA ให้กับ CNCF เพื่อเป็นโครงสร้างพื้นฐานด้านความปลอดภัยสำหรับ Autonomous Agents
- Agent Substrate – โครงการของ Google ใน CNCF Sandbox ที่ NVIDIA เข้ามาสนับสนุนเพื่อการทำงานของ Agent
- NVIDIA Dynamo – ส่วนประกอบที่ใช้สำหรับกระบวนการอนุมานโมเดล (model inference)
- KAI Scheduler – ส่วนประกอบที่ใช้สำหรับจัดสรรทรัพยากรคลัสเตอร์ร่วมกัน
ที่มา: NVIDIA Blog