การสร้างโมเดลไม่ได้มีเพียงแค่ข้อมูล แต่ยังรวมถึงการออกแบบกระบวนการฝึกฝนเพื่อลดผลลัพธ์ที่เป็นอันตรายและเพิ่มประโยชน์ใช้สอยด้วย
ในการศึกษานี้ พวกเขาสำรวจว่าคำใบ้เล็กๆ น้อยๆ เกี่ยวกับตัวตนของผู้ใช้ เช่น ชื่อ สามารถส่งผลต่อการตอบสนองของ ChatGPT ได้อย่างไร ซึ่งแตกต่างจากกรณีศึกษา AI ทั่วไป เช่น การคัดกรองเรซูเม่หรือการให้คะแนนเครดิต
เนื่องจากชื่อมักมีความเชื่อมโยงทางวัฒนธรรม เพศ และเชื้อชาติ การนำมาใช้เป็นปัจจัยในการตรวจสอบอคติจึงมีความสำคัญ โดยเฉพาะเมื่อผู้ใช้ต้องระบุชื่อตนเองในการทำงาน เช่น การร่างอีเมล
เพื่อจำกัดขอบเขตการศึกษา พวกเขาเน้นไปที่การตรวจสอบว่าการใช้ชื่อนำไปสู่การตอบสนองที่สะท้อนถึงภาพเหมารวมที่เป็นอันตรายหรือไม่
การศึกษานี้จำกัดอยู่แค่การโต้ตอบเป็นภาษาอังกฤษ โดยอิงจากเพศแบบไบนารีและเชื้อชาติ 4 กลุ่ม (Black, Asian, Hispanic และ White) และยังคงต้องมีการทำงานเพิ่มเติมเพื่อทำความเข้าใจอคติที่เกี่ยวข้องกับกลุ่มประชากร ภาษา และบริบททางวัฒนธรรมอื่นๆ
ศัพท์ที่ควรรู้
- ChatGPT – โมเดลภาษาขนาดใหญ่ที่ถูกนำมาใช้ในการโต้ตอบกับผู้ใช้
- First-person fairness – ความเป็นธรรมที่ส่งผลกระทบโดยตรงต่อผู้ใช้งาน AI นั้นๆ
- Third-person fairness – ความเป็นธรรมที่ AI ถูกใช้ในการตัดสินใจเกี่ยวกับบุคคลที่สาม
- Memory feature – ฟีเจอร์ที่ช่วยให้ ChatGPT จดจำข้อมูลของผู้ใช้ข้ามการสนทนาได้
ที่มา: OpenAI