OpenAI และ Broadcom ประกาศเปิดตัว Jalapeño ซึ่งเป็นชิป AI ที่ออกแบบมาเพื่อรองรับการทำงานด้าน LLM inference โดยเฉพาะ โดยมีเป้าหมายเพื่อเพิ่มประสิทธิภาพการทำงาน ความประหยัดพลังงาน และความสามารถในการขยายระบบ (scale) สำหรับโครงสร้างพื้นฐาน AI ในวงกว้าง
การร่วมมือกันในครั้งนี้มุ่งเน้นไปที่การแก้ปัญหาคอขวดในการประมวลผลโมเดลภาษาขนาดใหญ่ ซึ่งต้องการทรัพยากรคำนวณมหาศาล โดยชิป Jalapeño จะเข้ามาช่วยให้การรันโมเดล AI ทำได้รวดเร็วและคุ้มค่ามากขึ้นเมื่อเทียบกับฮาร์ดแวร์ทั่วไป
ที่มา: OpenAI