OpenAI พัฒนา RND ส่งเสริมการเรียนรู้ด้วยความอยากรู้ของ Agent

Agent ที่ใช้ฟังก์ชันรางวัลทั่วไปสามารถเรียนรู้ระดับพื้นฐานในสภาพแวดล้อมที่หลากหลาย ทำให้สามารถตัดสินใจพฤติกรรมที่มีประโยชน์ได้ แม้จะไม่มีรางวัลที่ถูกออกแบบมาอย่างพิถีพิถันก็ตาม

เนื่องจากการทำนายสถานะถัดไปมีความอ่อนไหวต่อปัญหา ‘noisy-TV’ เราจึงระบุแหล่งที่มาของข้อผิดพลาดในการทำนายที่เกี่ยวข้อง ดังนี้:

การศึกษาขนาดใหญ่ของการเรียนรู้ที่ขับเคลื่อนด้วยความอยากรู้

การศึกษาขนาดใหญ่เกี่ยวกับเรื่องนี้สามารถดูได้ในเอกสารต้นฉบับ

Random Network Distillation

ข้อผิดพลาดในการทำนายสูงเมื่อตัวทำนายไม่สามารถสรุปจากตัวอย่างที่เคยเห็นได้ การใช้ปัญหาการทำนายสังเคราะห์ช่วยให้เราสามารถกำหนดให้มันเป็นแบบกำหนดได้ (deterministic) และอยู่ในคลาสของฟังก์ชันที่ตัวทำนายสามารถแทนได้

สำหรับผู้มีส่วนร่วมในงานวิจัยและบล็อกโพสต์นี้ โปรดดูรายชื่อผู้ร่วมงานในเอกสารต้นฉบับ

ศัพท์ที่ควรรู้

  • Reinforcement learning – การเรียนรู้แบบเสริมกำลัง คือกระบวนการที่ Agent เรียนรู้จากการลองผิดลองถูกเพื่อเพิ่มประสิทธิภาพ
  • Random Network Distillation (RND) – เป็นวิธีการที่ใช้การทำนายเพื่อกระตุ้นให้ Agent สำรวจสภาพแวดล้อมด้วยความอยากรู้
  • Montezuma’s Revenge – คือสภาพแวดล้อมทดสอบที่ใช้ในการเปรียบเทียบประสิทธิภาพของ Agent

ที่มา: OpenAI

Leave a Comment