OpenAI เผย Evolved Policy Gradients แนวทางการเรียนรู้ใหม่ของ Agent

แนวคิดเบื้องหลัง EPG นั้นมาจากประสบการณ์การเรียนรู้ทักษะใหม่ของสิ่งมีชีวิต ซึ่งเราทุกคนคุ้นเคย คือการมีการสลับระหว่างความคับข้องใจและความยินดีในการฝึกฝน

EPG พยายามสร้าง Agent ที่ไม่ได้เริ่มต้นจากศูนย์ แต่มีความรู้ว่าการจะก้าวหน้าในงานใหม่นั้นต้องทำอย่างไร โดยอาศัยประสบการณ์ที่เคยมีในการทำงานที่คล้ายกันมาก่อน

มีการกล่าวถึงงานล่าสุดเกี่ยวกับ metalearning policies และการเรียนรู้ loss function ซึ่งแตกต่างจากการเรียนรู้ policy โดยตรง โดยพบว่า Loss function ที่ออกแบบมาอย่างดีสามารถนำไปประยุกต์ใช้ได้หลากหลาย ตั้งแต่เกม Atari ไปจนถึงการควบคุมหุ่นยนต์

ผลลัพธ์ที่ได้แสดงให้เห็นถึงการสรุปผลไปยังงานที่อยู่นอกเหนือการแจกแจงการฝึกฝน (training distribution) ซึ่งเป็นสิ่งที่น่าตื่นเต้นสำหรับทีมงาน

Authors

ผู้เขียนคือ Rein Houthooft, Richard Chen, Phillip Isola, Bradly Stadie, Filip Wolski, Jonathan Ho และ Pieter Abbeel

ที่มา: OpenAI

Leave a Comment