Anthropic ท้าทาย CUDA ของ NVIDIA ด้วยการรันโมเดลบน GPU ของ AMD ได้ใน 3 วัน

เอกสารสำหรับการ IPO ของ Anthropic มีข้อมูลสำคัญที่แสดงให้เห็นว่า พวกเขาใช้เวลาเพียงประมาณสามวันในการทำให้โมเดล Claude Mythos Preview สามารถรันโมเดลอื่นบน GPU ของ AMD MI355X ได้ ซึ่งต่างจากกระบวนการเตรียมแพลตฟอร์มคอมพิวเตอร์ใหม่สำหรับการทำงานอนุมานที่มักใช้เวลา 6-12 เดือน

โดยพื้นฐานแล้ว Anthropic กำลังมองว่า GPU เป็นหน่วยการคำนวณที่สามารถทดแทนกันได้ ทำให้กำแพงในการเปลี่ยนจากแพลตฟอร์มหนึ่งไปยังอีกแพลตฟอร์มหนึ่งลดลงอย่างมาก

แม้ว่าการกล่าวว่า CUDA ของ NVIDIA กำลังจะสิ้นสุดลงอาจจะยังเร็วเกินไป เนื่องจาก CUDA ยังคงมีระบบนิเวศขนาดใหญ่ ประกอบด้วยไลบรารี เครื่องมือ และการปรับปรุงอย่างต่อเนื่อง รวมถึงการสนับสนุนจากนักพัฒนาจำนวนมาก

NVIDIA ได้พยายามรักษาความแข็งแกร่งของ CUDA moat มาหลายปี ทั้งการให้ GPU ฟรีสำหรับการฝึกฝนแก่สถาบันการศึกษา และการผสานรวม NCCL เข้ากับฮาร์ดแวร์เฉพาะ เช่น NVLink และ InfiniBand

ศัพท์ที่ควรรู้

  • CUDA – คือระบบนิเวศของ NVIDIA ที่ประกอบด้วยไลบรารีและเครื่องมือที่ช่วยให้ซอฟต์แวร์ทำงานร่วมกับ GPU ของ NVIDIA ได้
  • fungible compute resources – หมายถึงทรัพยากรการคำนวณที่สามารถนำไปใช้แทนกันได้ ทำให้การเปลี่ยนแพลตฟอร์มทำได้ง่ายขึ้น
  • IPO roadshow material – คือเอกสารที่ใช้ในการนำเสนอข้อมูลต่อสาธารณชนก่อนการเสนอขายหุ้นครั้งแรกของบริษัท

ที่มา: Wccftech

Leave a Comment