การทดสอบในระยะเริ่มต้นบ่งชี้ว่าตัวเร่งรุ่นแรกจะให้ประสิทธิภาพต่อวัตต์ที่ดีกว่าเทคโนโลยีปัจจุบันอย่างมาก ซึ่งเป็นก้าวสำคัญในกลยุทธ์ของ OpenAI ที่จะสร้างครบวงจรเบื้องหลังโมเดลและผลิตภัณฑ์ของตนเอง
Hock Tan ประธานและ CEO ของ Broadcom กล่าวว่า การร่วมมือครั้งนี้แสดงถึงความมุ่งมั่นพื้นฐานในการขยายโครงสร้างพื้นฐานทางกายภาพที่จำเป็นสำหรับทศวรรษหน้าของ AI
ออกแบบให้เป็นแพลตฟอร์มอนุมานที่ดีที่สุดสำหรับ LLMs
เป้าหมายคือการรวมพลังและปริมาณงานของ AI accelerators ชั้นนำในปัจจุบันเข้ากับความหน่วงที่ใกล้เคียงกับระบบอนุมานเฉพาะทางที่เร็วที่สุด ทำให้ Jalapeño เหมาะสมอย่างยิ่งสำหรับผลิตภัณฑ์ LLM แบบโต้ตอบในระดับขนาดใหญ่
เก้าเดือนสู่การ Tape-out เร่งด้วยโมเดลของ OpenAI
Jalapeño ถูกร่วมพัฒนาตั้งแต่การออกแบบจนถึงการ Tape-out การผลิตในเวลาเพียงเก้าเดือน ซึ่งถือเป็นวงจรการพัฒนา ASIC ที่รวดเร็วที่สุดเท่าที่เคยมีมาในเซมิคอนดักเตอร์ขั้นสูงประสิทธิภาพสูง
การปรับปรุงทุกอย่างในด้านต้นทุน ความเร็ว และความน่าเชื่อถือสามารถส่งผลโดยตรงต่อคำตอบที่เร็วขึ้นของ ChatGPT หรือการเข้าถึงโครงสร้างพื้นฐานที่มีประสิทธิภาพมากขึ้นสำหรับนักเรียน นักพัฒนา และองค์กรต่างๆ
ที่มา: OpenAI