Meta-learning คือกระบวนการเรียนรู้ว่าต้องเรียนรู้อย่างไร อัลกอริทึม Meta-learning รับชุดของงาน (tasks) เข้ามา โดยแต่ละงานคือปัญหาการเรียนรู้ และจะสร้างผู้เรียนรู้ที่สามารถสรุปผลจากตัวอย่างจำนวนน้อยได้
ปัญหาที่ศึกษาอย่างกว้างขวางคือ Few-shot classification ซึ่งผู้เรียนรู้จะเห็นข้อมูลเข้า-ออกเพียง 1–5 ตัวอย่างต่อคลาส ก่อนที่จะต้องจำแนกข้อมูลใหม่
Reptile ต้องการการอัปเดตที่ขึ้นอยู่กับอนุพันธ์อันดับสูงของฟังก์ชัน Loss ซึ่งแตกต่างจากการฝึกแบบร่วม (joint training) ที่เรียนรู้ได้น้อยมากหากไม่สามารถทำ Zero-shot learning ได้
การวิเคราะห์โดยใช้ Taylor series พบว่าการอัปเดตของ Reptile นั้นเทียบเท่ากับการเพิ่มค่า Inner product ระหว่าง Gradient ของ minibatch ต่างๆ จากงานเดียวกัน ซึ่งสัมพันธ์กับการปรับปรุงการสรุปผล (generalization)
จากการทดลอง พบว่า Reptile และ MAML ให้ประสิทธิภาพที่คล้ายคลึงกันบนเบนช์มาร์ก Omniglot และ Mini-ImageNet สำหรับ Few-shot classification
ที่มา: OpenAI