การใช้ความรุนแรง เช่น การโจมตี การก่อการร้าย หรือภัยคุกคามต่อเจ้าหน้าที่สาธารณะ เป็นสถานการณ์ที่ยอมรับไม่ได้ในโลกปัจจุบัน
Model Spec ของเรากำหนดหลักการว่าโมเดลควรทำงานอย่างไร คือต้องเพิ่มประโยชน์สูงสุดและเสรีภาพของผู้ใช้ ขณะเดียวกันก็ต้องลดความเสี่ยงที่จะเกิดอันตราย โดยเราฝึกโมเดลให้ปฏิเสธคำขอเกี่ยวกับคำแนะนำหรือแผนการที่อาจนำไปสู่ความรุนแรงอย่างมีความหมาย
สำหรับคำถามที่เป็นกลางเกี่ยวกับความรุนแรง เรายังคงอนุญาตให้มีการสนทนาเหล่านั้นได้ แต่จะคงไว้ซึ่งขอบเขตความปลอดภัยที่ชัดเจน เช่น การละเว้นคำแนะนำเชิงปฏิบัติโดยละเอียดที่อาจเอื้อต่อการทำอันตราย
การตรวจสอบและบังคับใช้กฎของเราดำเนินการโดยผู้ตรวจสอบที่เป็นมนุษย์ ซึ่งได้รับการฝึกฝนตามนโยบายและโปรโตคอลภายใต้มาตรการความเป็นส่วนตัวและความปลอดภัยที่กำหนดไว้
เรากำลังจะเปิดตัวฟีเจอร์ติดต่อที่เชื่อถือได้ โดยทำงานร่วมกับผู้เชี่ยวชาญ เพื่อให้ผู้ใช้ที่เป็นผู้ใหญ่สามารถระบุบุคคลที่จะได้รับการแจ้งเตือนเมื่ออาจต้องการการสนับสนุนเพิ่มเติม
ศัพท์ที่ควรรู้
- Model Spec – เอกสารที่ระบุหลักการทำงานของโมเดลว่าควรมีพฤติกรรมอย่างไร
- Red Teaming – การทดสอบโมเดลอย่างเข้มข้นเพื่อค้นหาจุดอ่อนและช่องโหว่ก่อนการใช้งานจริง
- Human Reviewers – ผู้ตรวจสอบที่เป็นมนุษย์ที่ได้รับการฝึกฝนเพื่อกำกับดูแลการใช้งานตามนโยบาย
- Trusted Contact Feature – ฟีเจอร์ใหม่ที่อนุญาตให้ผู้ใช้กำหนดบุคคลที่จะรับการแจ้งเตือนเมื่อต้องการความช่วยเหลือ
ที่มา: OpenAI