นักวิจัยชี้ให้เห็นว่าความเสี่ยงในห่วงโซ่อุปทาน (supply-chain risk) นั้นมีอยู่จริง หากบัญชีผู้เผยแพร่ถูกบุกรุกและมีการเผยแพร่น้ำหนักที่ถูกดัดแปลงผ่านการอัปเดตตามปกติไปยังระบบที่ดึงข้อมูลใหม่โดยอัตโนมัติ
Hertz กล่าวว่าแม้แต่บัญชีที่ไม่ถูกยึดก็ยังมีความเสี่ยง เพราะใครก็ตามสามารถสร้างภาพลักษณ์ที่ดูเหมือนถูกต้องตามกฎหมายสำหรับช่วงเวลาหนึ่ง แล้วค่อยผลักดันการอัปเดตที่เป็นอันตรายในภายหลัง
นักวิจัยเน้นย้ำว่าน้ำหนักและชุดข้อมูลที่ไม่ได้ผ่านการตรวจสอบเหล่านี้ไหลผ่านระบบนิเวศของโมเดลแบบเปิดทั้งหมด ไม่ว่าจะเป็น GitHub releases, package registries, หรือการดาวน์โหลดโดยตรง
สำหรับโมเดล Kokoro นั้น แม้ว่าผู้พัฒนาคือ Hexgrad จะยังไม่ได้อัปเดตตั้งแต่เดือนเมษายน 2025 แต่โครงการนี้ยังคงได้รับความนิยมสูง โดยมีการดาวน์โหลดถึงเกือบ 13 ล้านครั้งต่อเดือนบน Hugging Face
การทดสอบของทีมผู้วิจัยทำในเครื่องโดยใช้ไปป์ไลน์อนุมาน (inference pipeline) ปกติ และไม่เคยอัปโหลดน้ำหนักที่ถูกดัดแปลงไปยัง Hugging Face เพื่อหลีกเลี่ยงการเสี่ยงต่อระบบโปรดักชันที่ใช้งานโมเดลนี้
ศัพท์ที่ควรรู้
- Hugging Face – แพลตฟอร์มที่ใช้สำหรับโฮสต์และแบ่งปันโมเดล AI ต่างๆ
- Kokoro – โมเดล text-to-speech ที่ถูกโจมตีและใช้งานในโครงการใหญ่ๆ
- Weights – พารามิเตอร์ภายในของโมเดล AI ที่กำหนดว่าโมเดลจะทำงานอย่างไร
- Inference pipeline – กระบวนการที่โมเดล AI ใช้ในการรับข้อมูลเข้าและสร้างผลลัพธ์ออกมา
- Supply-chain risk – ความเสี่ยงด้านความปลอดภัยที่เกิดจากการพึ่งพาซอฟต์แวร์หรือส่วนประกอบจากแหล่งภายนอก
ที่มา: bleepingcomputer.com