อัปเดต ณ วันที่ 4 สิงหาคม 2024 นี้ ทางทีมงานได้ให้ความสำคัญกับการเปิดตัวโซลูชันพิสูจน์แหล่งที่มาสำหรับเนื้อหาภาพและเสียง เนื่องจากมีความเสี่ยงสูงกว่าในระยะนี้ แม้ว่าโซลูชันจะมีความแม่นยำสูงและมีประสิทธิภาพในการตรวจจับการดัดแปลงเฉพาะจุด เช่น การใช้คำใหม่ แต่ก็ยังมีความเปราะบางต่อการดัดแปลงในระดับโลก เช่น การใช้ระบบแปลภาษา หรือการให้โมเดลแทรกอักขระพิเศษระหว่างคำ ซึ่งผู้ไม่หวังดีสามารถหลบเลี่ยงได้ง่าย
การสนับสนุนมาตรฐานความถูกต้อง
ข้อนี้ ทาง OpenAI ได้จัดตั้งกองทุนมูลค่า 2 ล้านดอลลาร์ เพื่อสนับสนุนการศึกษาด้าน AI และความเข้าใจในเรื่องนี้ ผ่านองค์กรต่างๆ เช่น Older Adults Technology Services จาก AARP, International IDEA และ Partnership on AI
สิ่งที่เรากำลังสร้าง: เครื่องมือใหม่ในการระบุเนื้อหาที่สร้างจากบริการของเรา
ซึ่งประกอบด้วยการนำลายน้ำที่ทนทานต่อการดัดแปลงมาใช้ เช่น การติดสัญญาณที่มองไม่เห็นในเนื้อหาดิจิทัลเสียง และการใช้ตัวจำแนกที่ใช้ปัญญาประดิษฐ์เพื่อประเมินความเป็นไปได้ว่าเนื้อหานั้นมาจากโมเดลสร้างสรรค์ของเรา
ศัพท์ที่ควรรู้
- Content provenance – การระบุแหล่งที่มาของเนื้อหาว่ามาจากไหน
- Tamper-resistant watermarking – การฝังลายน้ำที่ไม่สามารถถูกแก้ไขได้ในเนื้อหาดิจิทัล
- Detection classifiers – เครื่องมือ AI ที่ใช้ในการประเมินว่าเนื้อหาถูกสร้างโดยโมเดลหรือไม่
ที่มา: OpenAI