NPU คือ Neural Processing Unit ซึ่งเป็นส่วนของซิลิคอนที่ถูกสร้างขึ้นเพื่อรันงานด้าน AI โดยใช้พลังงานเพียงประมาณ 2W เทียบกับมากกว่า 100W ที่การ์ดจอแยก (discrete graphics) ทั่วไปต้องใช้ในการทำงานเดียวกัน
แม้ว่า NPU จะยังไม่พบในทุกแล็ปท็อป แต่ปัจจุบันถือเป็นมาตรฐานในเครื่องระดับกลางและระดับพรีเมียม โดย Gartner ประเมินว่า PC ที่รองรับ AI เช่นนี้มีมากกว่าครึ่งหนึ่งของการจัดส่งทั่วโลก
สาเหตุที่เราเห็นการใช้งาน NPU เพิ่มขึ้นไม่ใช่เพราะผู้ซื้อต้องการ แต่เป็นเพราะต้องปฏิบัติตามข้อกำหนดของ Microsoft ที่กำหนดให้เครื่องใหม่ต้องมีประสิทธิภาพ NPU ที่ 40 TOPS เพื่อเข้าถึงฟีเจอร์ AI ใหม่ของ Windows
หน้าที่หลักของ NPU คือการเร่งกระบวนการอนุมาน (inference) ซึ่งเป็นขั้นตอนการรันโมเดล ในขณะที่ต้องใช้การคำนวณหลักสองอย่างคือ matrix multiplication และ nonlinear activation functions
การใช้งานเช่นการเบลอพื้นหลังในการประชุมทางวิดีโอสามารถทำได้ทั้ง CPU หรือ GPU แต่ทั้งสองอย่างต้องใช้พลังงานสูง
ศัพท์ที่ควรรู้
- NPU (Neural Processing Unit) – คือชิปที่ถูกสร้างขึ้นมาเพื่อรันงานด้านปัญญาประดิษฐ์โดยเฉพาะ
- CPU/GPU – คือหน่วยประมวลผลกลางและการ์ดจอที่ใช้ในการทำงานทั่วไป แต่ใช้พลังงานสูงกว่า
- AI workloads – คือภาระงานที่เกี่ยวข้องกับการประมวลผลปัญญาประดิษฐ์ เช่น การจดจำภาพหรือเสียง
- Inference – คือขั้นตอนการนำโมเดล AI ที่ฝึกเสร็จแล้วมาใช้งานจริงเพื่อคาดการณ์หรือประมวลผล
ที่มา: Engadget