RSI-Dojo ฝึก Agent ให้ปรับปรุง LLM ด้วยตนเอง

Recursive Self-Improvement (RSI) มีเป้าหมายให้ระบบ AI สามารถสร้างและปรับปรุงระบบ AI ของตนเองได้ รวมถึงโมเดล, ส่วนควบคุม (harness), และโครงสร้างพื้นฐานที่รองรับ ซึ่งหนึ่งในความสามารถหลักคือการให้ agent ฝึกและปรับปรุงโมเดลพื้นฐาน

ในงานวิจัยนี้ ผู้นำเสนอ RSI-Dojo ซึ่งเป็นชุดสภาพแวดล้อมการฝึกโมเดลที่ออกแบบมาเพื่อสอนให้ LLM agents สามารถทำการ Post-training ได้ โดยใช้ RSI-Craft เป็นไปป์ไลน์อัตโนมัติในการแปลงผลงานวิจัยของมนุษย์ให้เป็นสภาพแวดล้อมการฝึกที่ใช้งานได้

RSI-Craft จะรวบรวมเปเปอร์วิจัยจากแหล่งชั้นนำ, สร้างชุดข้อมูลและเมตริกในอินเทอร์เฟซเดียวกัน, และจำลองการพึ่งพาการประเมิน ทำให้ได้ RSI-Dojo ที่มีงานฝึกโมเดลต้นแบบ 281 ชิ้น

หลังจากเก็บรวบรวมเส้นทางการฝึกที่มีคุณภาพจากโมเดลชั้นนำและนำไปปรับแต่ง (fine-tune) บน Qwen3.5-9B และ Qwen3.6-35B-A3B พบว่า RSI-Dojo-35B-A3B ทำคะแนน PostTrainBench ได้ถึง 29.95 และ 53.29 ใน PostTrainBench-Lite เทียบเท่ากับ GLM-5.2 และ GPT 5.5

ศัพท์ที่ควรรู้

  • Recursive Self-Improvement (RSI) – แนวคิดที่ให้ AI สามารถสร้างและปรับปรุงระบบ AI ของตนเองได้ด้วยตนเอง
  • LLM agents – ตัวแทน AI ที่ถูกฝึกให้ทำงานเฉพาะด้าน เช่น การฝึกโมเดล
  • Post-training – กระบวนการปรับปรุงโมเดลหลังจากที่ผ่านการฝึกเบื้องต้นมาแล้ว
  • RSI-Dojo – ชุดสภาพแวดล้อมการฝึกโมเดลที่สร้างขึ้นเพื่อสอน agent ให้ทำการปรับปรุงโมเดล
  • RSI-Craft – ไปป์ไลน์อัตโนมัติที่แปลงงานวิจัยของมนุษย์ให้เป็นสภาพแวดล้อมการฝึกที่ใช้งานได้

ที่มา: arxiv.org

Leave a Comment