เพื่อให้สามารถนำ AI ทั่วไปที่มีประสิทธิภาพสูงมาใช้งานได้อย่างปลอดภัยในอนาคต เราจำเป็นต้องมั่นใจว่าโมเดลการเรียนรู้ของเครื่องทำงานตามเจตนาของมนุษย์ ซึ่งเป็นที่รู้จักกันในชื่อปัญหา Alignment
การแก้ปัญหา Alignment ที่สามารถปรับขนาดได้นั้น จำเป็นต้องใช้ได้กับงานที่การประเมินผลลัพธ์ของโมเดลนั้นยากหรือใช้เวลานานสำหรับมนุษย์ ดังนั้น เพื่อทดสอบเทคนิคการปรับให้เข้ากันได้ในระดับที่ปรับขนาดได้ เราจึงฝึกโมเดลให้สรุปหนังสือทั้งเล่ม
โมเดลของเราทำงานโดยการสรุปส่วนเล็กๆ ของหนังสือก่อน จากนั้นจึงสรุปบทสรุปเหล่านั้นให้เป็นบทสรุปในระดับที่สูงขึ้นไปเรื่อยๆ
ศัพท์ที่ควรรู้
- Alignment problem – ปัญหาการทำให้ AI ทำงานตรงตามเจตนาของมนุษย์
- Machine learning models – โมเดลการเรียนรู้ของเครื่องที่ใช้ในการประมวลผล
- Scalable solution – วิธีแก้ปัญหาที่สามารถปรับขนาดให้รองรับงานใหญ่ๆ ได้
ที่มา: OpenAI