Anthropic ได้เปิดตัว FlashProve ซึ่งเป็นต้นแบบวิจัยที่ใช้การเข้ารหัสเพื่อยืนยันว่าการตอบสนองของ AI นั้นมาจากโมเดลที่ถูกกล่าวอ้างจริง ปัญหานี้สำคัญเนื่องจากผู้ใช้ไม่สามารถตรวจสอบได้ว่าโมเดลที่เลือกนั้นสร้างคำตอบขึ้นมาจริง หรือถูกเปลี่ยนไปใช้โมเดลที่ถูกกว่าเพื่อลดต้นทุน
FlashProve ใช้เทคนิคการเข้ารหัสที่เรียกว่า zkSNARK โดยผู้ให้บริการโมเดลจะสร้างลายนิ้วมือดิจิทัลของน้ำหนักโมเดล และแนบหลักฐานการสร้างเอาต์พุตไปกับการตอบกลับ ซึ่งพิสูจน์ได้ว่าโมเดลนั้นสร้างผลลัพธ์โดยไม่เปิดเผยน้ำหนักโมเดลที่เป็นความลับ
ตามรายงานทางเทคนิค การพิสูจน์สามารถสร้างได้ประมาณ 110 โทเค็นต่อวินาที บน H100 GPU สำหรับ Llama 4 Maverick ของ Meta ซึ่งมีพารามิเตอร์ 400 พันล้านตัว การพิสูจน์แต่ละอันมีขนาดประมาณ 19 เมกะไบต์ และสามารถตรวจสอบได้ใน 17 วินาทีบน CPU ทั่วไป ซึ่งเพิ่มภาระงานประมาณ 70 ถึง 95 เท่าเมื่อเทียบกับการอนุมานปกติ
ศัพท์ที่ควรรู้
- FlashProve – คือต้นแบบวิจัยของ Anthropic ที่ใช้การเข้ารหัสเพื่อตรวจสอบว่า AI ตอบกลับมาจากโมเดลที่อ้างถึงหรือไม่
- zkSNARK – คือเทคนิคการเข้ารหัสที่ใช้ในการสร้างหลักฐานการคำนวณโดยไม่ต้องเปิดเผยข้อมูลลับทั้งหมด
- Weights – คือพารามิเตอร์ภายในของโมเดล AI ที่กำหนดว่าโมเดลทำงานอย่างไร
- Inference – คือกระบวนการที่โมเดล AI สร้างผลลัพธ์หรือคำตอบจากอินพุตที่ได้รับ
ที่มา: The Decoder