เราตระหนักดีว่าการสร้างเสียงที่เลียนแบบเสียงของบุคคลนั้นมีความเสี่ยงร้ายแรง โดยเฉพาะอย่างยิ่งในปีการเลือกตั้ง เรากำลังทำงานร่วมกับพันธมิตรในสหรัฐฯ และนานาชาติจากภาครัฐ สื่อ บันเทิง การศึกษา และภาคประชาสังคม เพื่อให้มั่นใจว่าเราได้นำข้อเสนอแนะของพวกเขามาประกอบการพัฒนา
พันธมิตรที่ทดสอบ Voice Engine ได้ตกลงตามนโยบายการใช้งานของเรา ซึ่งห้ามการปลอมแปลงบุคคลหรือองค์กรใด ๆ หากไม่ได้รับความยินยอมหรือสิทธิ์ตามกฎหมาย นอกจากนี้ ข้อตกลงของเรายังกำหนดให้ต้องได้รับความยินยอมอย่างชัดแจ้งและรับทราบจากผู้พูดต้นฉบับ และเราไม่อนุญาตให้นักพัฒนาสร้างช่องทางให้ผู้ใช้แต่ละรายสร้างเสียงของตนเอง
เราได้ใช้มาตรการด้านความปลอดภัยหลายอย่าง รวมถึงการติดลายน้ำเพื่อติดตามต้นทางของเสียงที่สร้างจาก Voice Engine และการเฝ้าระวังเชิงรุกถึงวิธีการใช้งาน เราเชื่อว่าการใช้งานเทคโนโลยีเสียงสังเคราะห์ในวงกว้างควรมาพร้อมกับประสบการณ์การยืนยันเสียงที่พิสูจน์ว่าผู้พูดต้นฉบับยินยอม และรายการเสียงต้องห้ามที่สามารถตรวจจับและป้องกันการสร้างเสียงที่คล้ายกับบุคคลสำคัญ
เราสนับสนุนให้มีการดำเนินการ เช่น การยกเลิกการใช้การยืนยันตัวตนด้วยเสียงเป็นมาตรการรักษาความปลอดภัยในการเข้าถึงบัญชีธนาคาร หรือข้อมูลที่ละเอียดอ่อน และเร่งพัฒนาเทคนิคการติดตามต้นทางของเนื้อหาภาพและเสียง เพื่อให้ชัดเจนเสมอว่ากำลังโต้ตอบกับบุคคลจริงหรือ AI
ศัพท์ที่ควรรู้
- Synthetic voices – เสียงสังเคราะห์คือเสียงที่ถูกสร้างขึ้นโดยใช้เทคโนโลยี AI เลียนแบบเสียงของมนุษย์
- Voice Engine – คือระบบหรือเครื่องมือของ OpenAI ที่ใช้ในการสร้างเสียงสังเคราะห์
- Watermarking – คือการฝังลายน้ำดิจิทัลในไฟล์เสียงเพื่อใช้เป็นหลักฐานว่าเสียงนั้นถูกสร้างจากระบบ
- Impersonation – คือการปลอมแปลงตัวตนของบุคคลอื่นโดยไม่ได้รับอนุญาต
ที่มา: OpenAI