Anthropic ได้เปิดตัว FlashProve ซึ่งเป็นโค้ดโอเพนซอร์สที่ช่วยในการตรวจสอบทางคริปโตกราฟีว่าการตอบสนองของ AI นั้นมาจากโมเดลที่ผู้ใช้ระบุอย่างแท้จริง
เครื่องมือนี้ช่วยป้องกันสถานการณ์ที่อาจมีการสลับโมเดลที่ถูกกว่าเข้ามาในระหว่างทางโดย Router ซึ่งอาจทำให้เกิดความไม่ถูกต้องของแหล่งที่มาของคำตอบ
FlashProve จึงเป็นเครื่องมือสำคัญสำหรับผู้ที่ต้องการความมั่นใจในความถูกต้องของโมเดลที่ใช้งานอยู่
ศัพท์ที่ควรรู้
- Anthropic – บริษัทผู้พัฒนาโมเดล AI ที่เปิดตัวเครื่องมือนี้
- FlashProve – โค้ดโอเพนซอร์สที่ใช้ในการตรวจสอบความถูกต้องของโมเดล
- Cryptographically verifies – การตรวจสอบทางคริปโตกราฟี คือการใช้หลักการเข้ารหัสเพื่อยืนยันข้อมูล
- Router – อุปกรณ์ที่ทำหน้าที่ส่งต่อข้อมูลระหว่างระบบต่างๆ
ที่มา: Techmeme