Anthropic ได้เปิดตัวระบบ FlashProve ซึ่งเป็นระบบโอเพนซอร์สที่ช่วยให้สามารถพิสูจน์ได้ว่าเอาต์พุตของ AI นั้นมาจากโมเดลใดโดยเฉพาะ ระบบนี้ออกแบบมาเพื่อมอบสิ่งที่นักวิจัยเรียกว่า “provable inference” ซึ่งคือหลักฐานทางคณิตศาสตร์ที่รับประกันว่าเอาต์พุตนั้นมาจากโมเดลที่ระบุอย่างแท้จริง
FlashProve ทำหน้าที่คล้ายลายเซ็นอีเมลเข้ารหัส ที่ช่วยให้ผู้รับยืนยันว่าข้อความนั้นมาจากผู้ส่งที่อ้างถึง แม้ว่าผู้แอบอ้างจะเป็นห้องปฏิบัติการที่สร้างโมเดลนั้นเองก็ตาม
นักวิจัยระบุว่าระบบนี้สามารถป้องกันไม่ให้บริษัท AI แอบสลับใช้โมเดลที่ถูกกว่าเพื่อลดต้นทุน หรือใช้โมเดลที่แพงกว่าเพื่อปั่นผลลัพธ์การทำงานได้
ที่สำคัญคือ ลายเซ็นดิจิทัลเหล่านี้ไม่ได้เปิดเผยน้ำหนัก (weights) หรือตัวเลขภายในของโมเดล ซึ่งเป็นทรัพย์สินที่มีค่าที่สุดที่บริษัทอย่าง Anthropic และ OpenAI เก็บเป็นความลับ ทำให้ระบบสามารถทำงานร่วมกับโมเดลเชิงพาณิชย์ได้
ในการประกาศครั้งนี้ พวกเขาได้เผยแพร่ข้อกำหนดทางเทคนิคโดยละเอียดและโค้ดที่ใช้งานได้สำหรับองค์ประกอบต่างๆ ของระบบบน GitHub ภายใต้ใบอนุญาตโอเพนซอร์ส
ศัพท์ที่ควรรู้
- Provable inference – การอนุมานที่พิสูจน์ได้ คือการให้หลักฐานทางคณิตศาสตร์ว่าผลลัพธ์มาจากโมเดลที่ระบุ
- FlashProve – คือชื่อของระบบโอเพนซอร์สที่ Anthropic สร้างขึ้นเพื่อพิสูจน์ที่มาของเอาต์พุต AI
- Weights – คือชุดตัวเลขภายในที่กำหนดพฤติกรรมของโมเดล AI ซึ่งเป็นข้อมูลลับของบริษัท
ที่มา: TechCrunch