นักวิจัยยึดบัญชี Hugging Face เพื่อเข้าถึงโมเดล AI Kokoro

นักวิจัยชี้ให้เห็นว่าความเสี่ยงในห่วงโซ่อุปทาน (supply-chain risk) นั้นมีอยู่จริง หากบัญชีผู้เผยแพร่ถูกบุกรุกและมีการเผยแพร่น้ำหนักที่ถูกดัดแปลงผ่านการอัปเดตตามปกติไปยังระบบที่ดึงข้อมูลใหม่โดยอัตโนมัติ

Hertz กล่าวว่าแม้แต่บัญชีที่ไม่ถูกยึดก็ยังมีความเสี่ยง เพราะใครก็ตามสามารถสร้างภาพลักษณ์ที่ดูเหมือนถูกต้องตามกฎหมายสำหรับช่วงเวลาหนึ่ง แล้วค่อยผลักดันการอัปเดตที่เป็นอันตรายในภายหลัง

นักวิจัยเน้นย้ำว่าน้ำหนักและชุดข้อมูลที่ไม่ได้ผ่านการตรวจสอบเหล่านี้ไหลผ่านระบบนิเวศของโมเดลแบบเปิดทั้งหมด ไม่ว่าจะเป็น GitHub releases, package registries, หรือการดาวน์โหลดโดยตรง

สำหรับโมเดล Kokoro นั้น แม้ว่าผู้พัฒนาคือ Hexgrad จะยังไม่ได้อัปเดตตั้งแต่เดือนเมษายน 2025 แต่โครงการนี้ยังคงได้รับความนิยมสูง โดยมีการดาวน์โหลดถึงเกือบ 13 ล้านครั้งต่อเดือนบน Hugging Face

การทดสอบของทีมผู้วิจัยทำในเครื่องโดยใช้ไปป์ไลน์อนุมาน (inference pipeline) ปกติ และไม่เคยอัปโหลดน้ำหนักที่ถูกดัดแปลงไปยัง Hugging Face เพื่อหลีกเลี่ยงการเสี่ยงต่อระบบโปรดักชันที่ใช้งานโมเดลนี้

ศัพท์ที่ควรรู้

  • Hugging Face – แพลตฟอร์มที่ใช้สำหรับโฮสต์และแบ่งปันโมเดล AI ต่างๆ
  • Kokoro – โมเดล text-to-speech ที่ถูกโจมตีและใช้งานในโครงการใหญ่ๆ
  • Weights – พารามิเตอร์ภายในของโมเดล AI ที่กำหนดว่าโมเดลจะทำงานอย่างไร
  • Inference pipeline – กระบวนการที่โมเดล AI ใช้ในการรับข้อมูลเข้าและสร้างผลลัพธ์ออกมา
  • Supply-chain risk – ความเสี่ยงด้านความปลอดภัยที่เกิดจากการพึ่งพาซอฟต์แวร์หรือส่วนประกอบจากแหล่งภายนอก

ที่มา: bleepingcomputer.com

Leave a Comment