Dell Technologies และพันธมิตร Advanced Micro Devices (AMD) กำลังเผชิญกับแรงกดดันทางการแข่งขันที่คล้ายคลึงกัน โดยทั้งสองบริษัทต่างดำเนินธุรกิจในสภาพแวดล้อมที่ความสำเร็จถูกวัดจากหน่วยประมวลผลกลาง (CPU), หน่วยประมวลผลกราฟิก (GPU), ระบบระดับ Rack, ความจุหน่วยความจำ, แบนด์วิดท์เครือข่าย และโทเค็นต่อดอลลาร์
Dell ได้ประกาศรองรับ AMD Instinct MI350P PCI Express GPUs ในเซิร์ฟเวอร์ PowerEdge XE7745 และ R7725 โดยเริ่มตั้งแต่เดือนกรกฎาคม ซึ่งเป็นการเปิดทางเลือกใหม่สำหรับองค์กรในการขยายการใช้งาน AI เชิงเอเจนต์และ AI เชิงกำเนิด
ตามข้อมูลจาก Mike Darby ผู้จัดการอาวุโสด้านการพัฒนาธุรกิจ Instinct Data Center GPUs ของ AMD นั้น MI350P มีหน่วยความจำ HBM3E สูงถึง 144GB ซึ่งเป็นจุดแตกต่างสำคัญสำหรับประสิทธิภาพการอนุมาน โดยเน้นว่ากรณีการใช้งานหลักคือ Inference ซึ่งต้องให้ความสำคัญกับ Latency และ Time to first token เพื่อประสบการณ์ผู้ใช้ที่ดีที่สุด
ข้อความจาก John Furrier ผู้ร่วมก่อตั้ง SiliconANGLE
ในฐานะบริษัทแม่ของ SiliconANGLE, theCUBE Network, theCUBE Research, CUBE365, theCUBE AI และ theCUBE SuperStudios นั้น SiliconANGLE Media ดำเนินการ ณ จุดตัดของสื่อ เทคโนโลยี และ AI โดยมี John Furrier และ Dave Vellante เป็นผู้ก่อตั้ง และมีระบบนิเวศสื่อดิจิทัลชั้นนำที่เข้าถึงผู้เชี่ยวชาญด้านเทคโนโลยีระดับสูงกว่า 15 ล้านคน
theCUBE AI Video Cloud ใหม่ล่าสุดของพวกเขา กำลังบุกเบิกการมีส่วนร่วมของผู้ชม โดยใช้ neural network ของ theCUBEai.com เพื่อช่วยให้บริษัทเทคโนโลยีสามารถตัดสินใจโดยใช้ข้อมูลและก้าวทันการสนทนาในอุตสาหกรรม
ศัพท์ที่ควรรู้
- CPU – Central Processing Unit คือหน่วยประมวลผลกลาง ทำหน้าที่ประมวลผลคำสั่งต่างๆ
- GPU – Graphics Processing Unit คือหน่วยประมวลผลกราฟิก ทำหน้าที่ประมวลผลงานด้านกราฟิกและ AI
- Rack-scale systems คือระบบคอมพิวเตอร์ขนาดใหญ่ที่ติดตั้งในตู้เซิร์ฟเวอร์เดียวกัน
- HBM3E memory คือหน่วยความจำชนิดพิเศษที่ให้ความเร็วสูงมากสำหรับ GPU
- Inference คือกระบวนการที่โมเดล AI ที่ผ่านการฝึกฝนแล้วนำมาใช้งานจริงเพื่อสร้างผลลัพธ์
ที่มา: siliconangle.com