การเข้าถึงหน่วยความจำภายนอกเป็นอุปสรรคต่อการพัฒนา AI ทางกายภาพ ดังนั้นผู้ผลิตรถยนต์ญี่ปุ่นอย่าง Toyota จึงได้ค้นพบทางลัดที่ทั้งรวดเร็วและคุ้มค่า
AISIN เชื่อว่าชิปที่มีอยู่เดิมไม่เหมาะกับงานนี้ เนื่องจากต้องพึ่งพาหน่วยความจำภายนอกในการจัดเก็บโมเดล AI และสร้างปริมาณการรับส่งข้อมูลระหว่างโปรเซสเซอร์กับโมเดล ซึ่งทำให้การจดจำภาพและการใช้งาน AI บนอุปกรณ์มีประสิทธิภาพต่ำ
การตอบสนองของพวกเขาคือ SoC ที่สร้างบนกระบวนการ 16nm FinFET พร้อม CPU คู่ของ Arm Cortex A53 และ GPU Arm MaliG31 ซึ่งมี STT-MRAM ในตัวสำหรับจัดเก็บทั้งน้ำหนักโมเดลและระบบปฏิบัติการ
AISIN และพันธมิตรวิจัยจาก Tohoku University ระบุว่าแนวทางนี้ทำให้ชิปสามารถเริ่มทำงานจากเปิดเครื่องถึงเริ่มต้นเคอร์เนลได้ใน 65.7 มิลลิวินาที ซึ่งเร็วกว่าการใช้หน่วยความจำภายนอกถึง 38 เท่า และสามารถรันอัลกอริทึมตรวจจับวัตถุ Tiny YOLOv3 ได้
ในการใช้ประโยชน์จากหน่วยความจำบนชิปอย่างจำกัด พวกเขาได้พัฒนารูปแบบการคูณแบบผสมผสาน (hybrid multiplication architecture) ที่รวมการคูณแบบ 8-bit และ 16-bit ทำให้ลดข้อมูลน้ำหนักของโมเดลลงได้ 53% จาก 17.7MB เหลือ 9.36MB โดยยังคงความแม่นยำ 16-bit
AISIN ซึ่งเป็นซัพพลายเออร์ชิ้นส่วนรายเดิมของ Toyota และผู้ผลิตรถยนต์รายอื่น ยังไม่ได้ระบุว่าจะสามารถนำชิปนี้เข้าสู่การผลิตได้เมื่อใด ในขณะที่คู่แข่งอย่าง Nvidia และ Qualcomm ก็ต้องการขายซิลิคอนของตนให้กับผู้ผลิตรถยนต์เช่นกัน
ศัพท์ที่ควรรู้
- SoC (System-on-Chip) – ชิปคอมพิวเตอร์ขนาดเล็กที่รวมหลายฟังก์ชันไว้ในชิปเดียว
- Model Weights – น้ำหนักโมเดล คือชุดของค่าพารามิเตอร์ที่ AI ใช้ในการประมวลผลและเรียนรู้
- STT-MRAM – คือประเภทของหน่วยความจำที่ใช้เก็บข้อมูลอย่างถาวรและมีความเร็วสูง
- 16nm FinFET process – คือกระบวนการผลิตชิปขั้นสูงที่ใช้ในการสร้างทรานซิสเตอร์
ที่มา: The Register