Anthropic FlashProve สร้าง zero-knowledge proofs สำหรับการอนุมานของโมเดล Llama 4 Maverick ขนาด 400B โดยทำงานที่ความเร็ว 110 โทเค็นต่อวินาที บน GPU H100 เพียง 1 ตัว
โดยปกติแล้ว เมื่อผู้ใช้สอบถามโมเดล จะไม่สามารถตรวจสอบได้ว่าโมเดลใดเป็นผู้สร้างคำตอบนั้น ซึ่งอาจถูกสับเปลี่ยนโดยบริการเส้นทาง (routing service) หรือถูกโจมตีโดยผู้ไม่หวังดีที่แก้ไขสตรีมโทเค็น
การตัดสินคุณภาพจากผลลัพธ์เพียงอย่างเดียวจึงไม่น่าเชื่อถือ ดังนั้น FlashProve จึงเข้ามาช่วยยืนยันความถูกต้องของกระบวนการอนุมานนี้
ศัพท์ที่ควรรู้
- FlashProve – เป็นระบบที่สร้างหลักฐานเข้ารหัสเพื่อพิสูจน์ว่าคำตอบนั้นมาจากโมเดลที่ตั้งใจไว้
- Zero-knowledge proofs – เป็นหลักฐานทางคณิตศาสตร์ที่พิสูจน์ข้อความได้โดยไม่ต้องเปิดเผยข้อมูลลับทั้งหมด
- Llama 4 Maverick – คือโมเดลภาษาขนาดใหญ่ (LLM) ที่ถูกนำมาใช้ในการทดสอบนี้
- 110 tokens/second – คืออัตราการสร้างผลลัพธ์ที่ระบบสามารถทำได้ในหนึ่งวินาที
- H100 GPU – คือหน่วยประมวลผลกราฟิก (GPU) รุ่นหนึ่งที่ใช้ในการรันโมเดล
ที่มา: marktechpost.com