ตามพันธกิจในการพัฒนา AGI ที่ปลอดภัยและเป็นประโยชน์ เรามุ่งเน้นการป้องกัน ตรวจจับ และขัดขวางความพยายามในการใช้โมเดลของเราเพื่อสนับสนุนการแสวงหาประโยชน์ทางเพศและการล่วงละเมิดเด็ก ผู้ใช้ถูกห้ามอย่างชัดเจนจากการใช้บริการใดๆ ของ OpenAI ในกิจกรรมที่ผิดกฎหมาย รวมถึงการแสวงหาประโยชน์ ทำให้ตกอยู่ในอันตราย หรือทำให้ผู้ที่อายุต่ำกว่า 18 ปีต้องตกเป็นเหยื่อ
เราจะแจ้งเตือนนักพัฒนาหากพบผู้ใช้พยายามสร้างหรืออัปโหลด CSAM หรือ CSEM และให้โอกาสในการแก้ไขโดยการแบนผู้ใช้ที่มีปัญหาจากแอปพลิเคชันของตน หากนักพัฒนาไม่สามารถแก้ไขพฤติกรรมที่เป็นปัญหาอย่างต่อเนื่องได้ เราจะดำเนินการแบนพวกเขาด้วย
AI tools as enabling new patterns of abuse—and how we are responding
ในส่วนของงานด้านความปลอดภัยอย่างต่อเนื่อง เราได้แบ่งปันรูปแบบการถูกใช้ในทางที่ผิดที่เราสังเกตและบล็อก เพื่อให้ผู้เชี่ยวชาญและองค์กรอื่น ๆ ได้รับประโยชน์จากการเรียนรู้ของเรา เรายังพบผู้ใช้พยายามชักจูงโมเดลให้เขียนเรื่องแต่งที่มีผู้เยาว์ตกอยู่ในสถานการณ์ที่ไม่เหมาะสมทางเพศหรือถูกล่วงละเมิด ซึ่งเป็นการละเมิดนโยบายด้านความปลอดภัยสำหรับเด็กของเรา และเราดำเนินการอย่างรวดเร็วเพื่อตรวจจับและแบนบัญชีที่เกี่ยวข้อง
นอกเหนือจากการตรวจจับในระดับพรอมต์แล้ว เรายังใช้การผสมผสานของตัวจำแนกที่ตระหนักถึงบริบท การเฝ้าติดตามการใช้ในทางที่ผิด และการตรวจสอบจากผู้เชี่ยวชาญที่เป็นมนุษย์ภายใน (ซึ่งเกิดขึ้นเมื่อตัวจำแนกแจ้งเตือนถึงการใช้ในทางที่ผิดที่อาจเกิดขึ้น) เพื่อให้มั่นใจว่าโมเดลของเรามีความแข็งแกร่งต่อการใช้ในทางที่ผิดเหล่านี้ ข้อมูลทั้งหมดนี้ถูกเก็บเป็นความลับภายในและมีเฉพาะผู้เชี่ยวชาญที่ได้รับการฝึกฝนในทีมที่รับผิดชอบเท่านั้น
Advocating for public policy that enables Industry-Government collaboration in combating abuse
ด้วยเหตุนี้ เราจึงต้องการเห็นรัฐบาลนำกรอบนโยบายสาธารณะมาใช้ ซึ่งส่งเสริมความร่วมมือที่แข็งแกร่งระหว่างบริษัทเทคโนโลยี หน่วยงานบังคับใช้กฎหมาย และองค์กรสนับสนุนในการปกป้องเด็กและส่งเสริมสภาพแวดล้อมออนไลน์ที่ปลอดภัยและมั่นคง
ศัพท์ที่ควรรู้
- AGI – คือปัญญาประดิษฐ์ทั่วไป (Artificial General Intelligence) ที่มีเป้าหมายในการพัฒนาให้ปลอดภัยและเป็นประโยชน์
- CSAM/CSEM – คือสื่อลามกอนาจารเด็ก (Child Sexual Abuse Material) ที่ถูกกล่าวถึงในบริบทของการถูกสร้างหรืออัปโหลด
- Prompt-level detection – คือการตรวจจับที่เกิดขึ้นในระดับของคำสั่งหรือข้อความที่ผู้ใช้ป้อนเข้าสู่โมเดล
- Context-aware classifiers – คือระบบจำแนกที่สามารถทำความเข้าใจบริบทของข้อมูลเพื่อตัดสินว่ามีพฤติกรรมที่ไม่เหมาะสมหรือไม่
- Zero-day exploit – ไม่ได้กล่าวถึงในบทความนี้ แต่โดยทั่วไปหมายถึงช่องโหว่ที่ยังไม่มีแพตช์ป้องกัน
ที่มา: OpenAI