Content provenance ช่วยให้ผู้ใช้เข้าใจว่าเนื้อหานั้นมาจากไหน ถูกสร้างหรือแก้ไขอย่างไร และมีสัญญาณที่เกี่ยวข้องกับโมเดลของเราหรือไม่ แนวทางแบบเป็นระยะของเราสะท้อนข้อกำหนดของ EU AI Act ควบคู่ไปกับข้อจำกัดทางเทคโนโลยี โดยเน้นความโปร่งใสว่าลายน้ำข้อความบอกอะไรได้บ้างและไม่ได้บ้าง
ตั้งแต่วันนี้เป็นต้นไป ลูกค้า API ทั่วโลกสามารถเลือกเข้าร่วมการทำลายน้ำข้อความสำหรับโมเดลที่เลือกได้
วิธีการทำงานและประสิทธิภาพของการทำลายน้ำของเรา
ตัวตรวจจับอาจเกิดข้อผิดพลาดได้สองประเภท คือ รายงานลายน้ำทั้งที่มีและไม่มีอยู่จริง (false positive) หรือพลาดลายน้ำที่มีอยู่ (false negative)
ผลกระทบของการทำลายน้ำต่อคุณภาพเอาต์พุต
ตารางเปรียบเทียบแสดงให้เห็นว่าการเพิ่มลายน้ำมีผลกระทบต่อคะแนนใน Benchmark ต่างๆ โดยยังคงรักษาคุณภาพเอาต์พุตไว้ได้ในระดับสูง
แนวทางที่กว้างขึ้นของเราต่อการตรวจสอบแหล่งที่มาของเนื้อหา
เนื่องจากไม่มีเทคนิคเดียวที่เพียงพอ เราจึงใช้แนวทางแบบหลายชั้นที่รวมมาตรฐานเปิด, การทำลายน้ำที่คงทน และเครื่องมือตรวจสอบเข้าด้วยกัน
Content Credentials สามารถบันทึกต้นกำเนิดและประวัติของไฟล์ ในขณะที่ลายน้ำที่มองไม่เห็นสามารถรักษาสัญญาณไว้ได้แม้ว่าข้อมูลเมตาจะถูกลบออกไป เราจับคู่สัญญาณเหล่านี้กับนโยบาย การตรวจจับการละเมิด การรายงาน และการบังคับใช้ เพื่อให้เกิดประโยชน์ในระบบนิเวศที่กว้างขึ้น
ศัพท์ที่ควรรู้
- Content provenance – การระบุแหล่งที่มาของเนื้อหาคือการช่วยให้ผู้ใช้ทราบว่าเนื้อหานั้นมาจากไหนและถูกสร้างขึ้นอย่างไร
- Text watermark – ลายน้ำข้อความคือสัญญาณดิจิทัลที่ฝังอยู่ในเนื้อหาเพื่อบ่งชี้ถึงที่มาหรือการประมวลผล
- False positive – ข้อผิดพลาดที่ตัวตรวจจับรายงานว่ามีลายน้ำ ทั้งที่จริงแล้วไม่มี
- False negative – ข้อผิดพลาดที่ตัวตรวจจับพลาดการตรวจจับลายน้ำ ทั้งที่จริงแล้วมีอยู่
- API customers – ลูกค้าที่ใช้งานผ่าน Application Programming Interface คือผู้ที่เข้าถึงโมเดลผ่านการเขียนโปรแกรม
ที่มา: OpenAI