Qualcomm เปิดให้ลูกค้าทดสอบ AI200 บัตรเร่งความเร็ว AI ระดับแร็ค บน Cirrascale AI Innovation Cloud โดยมีเส้นทางสู่การใช้งานจริง (production deployments) ตามที่ Qualcomm ระบุ
AI200 เป็นส่วนหนึ่งของ Dragonfly datacenter lineup ซึ่งประกอบด้วย AI250, AI300 accelerators และ C1000 server CPU แต่ละ AI200 บรรจุ 768 GB LPDDR memory และ 56 บัตรให้พื้นที่หน่วยความจำประมาณ 43 TB ในแร็คที่ระบายความร้อนด้วยของเหลว ระบบรองรับโมเดลตั้งแต่ 7 พันล้านถึง 10 ล้านล้านพารามิเตอร์ รวมถึง long-context, RAG และ agentic workloads
ขณะที่ระบบ Blackwell ของ Nvidia ใช้ HBM3e stacks ที่เร็วแต่มีราคาแพง Qualcomm เลือกใช้ LPDDR ซึ่งพบได้ทั่วไปในอุปกรณ์มือถือ เพื่อลดค่าใช้จ่ายด้านพลังงานและการดำเนินงาน
Tony Pialis รองประธานบริหารและผู้จัดการทั่วไปฝ่าย datacenter ของ Qualcomm กล่าวว่า AI inference เป็นหนึ่งในงานคอมพิวติ้งที่ใหญ่ที่สุดใน datacenter และอุตสาหกรรมต้องการแนวทางที่มีประสิทธิภาพมากกว่า Dave Driggers ซีอีโอของ Cirrascale กล่าวว่าลูกค้าต้องการโครงสร้างพื้นฐานที่มีประสิทธิภาพและขยายขนาดได้ เพื่อรองรับโมเดลที่ซับซ้อนขึ้นโดยไม่ให้ค่าใช้จ่ายเป็นข้อจำกัด
Qualcomm ยังมีซอฟต์แวร์สแต็คของตัวเองชื่อ Dragonfly AI Infrastructure Management Suite สำหรับ provisioning, monitoring, workload orchestration และ fault handling ข้าม deployment ระดับแร็ค
ศัพท์ที่ควรรู้
- AI200 – บัตรเร่งความเร็ว AI (accelerator card) ของ Qualcomm ที่ออกแบบสำหรับงาน AI inference ระดับแร็ค
- LPDDR – หน่วยความจำชนิด Low-Power DDR ที่ใช้ในอุปกรณ์มือถือและตอนนี้ใน datacenter เพื่อลดพลังงาน
- RAG (Retrieval-Augmented Generation) – เทคนิค AI ที่ค้นหาข้อมูลจากแหล่งภายนอกมาช่วยสร้างคำตอบที่แม่นยำขึ้น
- Agentic workloads – งานที่ให้ AI agent ทำงานอัตโนมัติหลายขั้นตอนแทนผู้ใช้
- HBM3e – หน่วยความจำความเร็วสูง High Bandwidth Memory รุ่นล่าสุดของ Nvidia ที่ใช้ใน GPU ระดับสูง
ที่มา: The Register