Cerebras สร้างระบบ AI ที่ออกแบบมาเพื่อเร่งการสร้างผลลัพธ์ยาวๆ จากโมเดล AI โดยใช้ชิปเดียวรวมการคำนวณ หน่วยความจำ และแบนด์วิดท์มหาศาล เพื่อขจัดคอขวดที่ทำให้การอนุมาน (inference) บนฮาร์ดแวร์ทั่วไปทำงานช้า
การผนวกรวม Cerebras เข้ากับโซลูชันการคำนวณของเราคือการทำให้ AI ตอบสนองได้เร็วขึ้น เมื่อผู้ใช้ถามคำถามยาก สร้างโค้ด หรือรัน AI agent จะมีวงจรทำงานอยู่เบื้องหลัง ซึ่งการตอบสนองแบบเรียลไทม์นี้จะทำให้ผู้ใช้มีส่วนร่วมและใช้งาน AI ได้มากขึ้น
Sachin Katti จาก OpenAI กล่าวว่า Cerebras ได้เพิ่มโซลูชัน inference ที่มีความหน่วงต่ำให้กับแพลตฟอร์มของเรา ทำให้การตอบสนองเร็วขึ้นและรองรับการขยาย AI แบบเรียลไทม์ได้มากขึ้น ส่วน Andrew Feldman จาก Cerebras กล่าวว่าการประมวลผลแบบเรียลไทม์นี้จะปฏิวัติ AI เช่นเดียวกับที่บรอดแบนด์เคยทำกับอินเทอร์เน็ต
ความสามารถนี้จะทยอยเปิดใช้งานเป็นหลายส่วนจนถึงปี 2028
ที่มา: OpenAI