หนึ่งในแนวทางในการทำให้ AI Agent สอดคล้องกับเป้าหมายและความต้องการของมนุษย์คือการให้มนุษย์ระบุพฤติกรรมที่ปลอดภัยและมีประโยชน์ในระหว่างการฝึกฝน ซึ่งวิธีนี้ต้องอาศัยให้มนุษย์สามารถรับรู้ได้ว่าพฤติกรรมใดดีหรือไม่ดี
ในหลายสถานการณ์ พฤติกรรมของ Agent อาจมีความซับซ้อนเกินกว่าที่มนุษย์จะเข้าใจ หรือตัวงานเองอาจยากต่อการตัดสินหรือสาธิต ดังนั้นจึงสามารถใช้ AI เอง หรือ AI แยกต่างหาก เพื่อช่วยชี้ให้เห็นข้อบกพร่องในทุกการกระทำที่เสนอขึ้นมา
หากสอง Agent มีความเห็นไม่ตรงกันในเรื่องความจริง แต่การให้เหตุผลทั้งหมดนั้นใหญ่เกินกว่าจะแสดงให้มนุษย์เห็นได้ การโต้วาทีสามารถจำกัดให้เหลือเพียงข้อพิพาทเชิงข้อเท็จจริงที่เรียบง่ายขึ้นเรื่อยๆ จนกระทั่งถึงข้อกล่าวอ้างที่มนุษย์สามารถตัดสินใจได้โดยตรง
การจำลองนี้แสดงให้เห็นว่า Agent ที่ซื่อสัตย์มักจะมีแนวโน้มที่จะชนะในการโต้วาที ซึ่งเป็นสิ่งที่เคยมีการทดลองอย่างไม่เป็นทางการที่ OpenAI ด้วยเช่นกัน
ศัพท์ที่ควรรู้
- AI Agent – ตัวแทนปัญญาประดิษฐ์ที่ทำงานตามเป้าหมายที่กำหนด
- Aligning AI agents – การทำให้ AI Agent สอดคล้องกับเป้าหมายของมนุษย์
- Observation spaces – ขอบเขตการสังเกต ซึ่งคือข้อมูลที่ Agent รับรู้จากสภาพแวดล้อม
- Debate – การโต้วาที ซึ่งเป็นกระบวนการที่ใช้ AI สองตัวถกเถียงเพื่อหาข้อสรุป
ที่มา: OpenAI