Generative modeling คือภารกิจในการสังเกตข้อมูล เช่น รูปภาพหรือข้อความ และเรียนรู้การแจกแจงข้อมูลพื้นฐาน การบรรลุภารกิจนี้ทำให้โมเดลเข้าใจคุณสมบัติระดับสูงในข้อมูลและสังเคราะห์ตัวอย่างที่ดูเหมือนข้อมูลจริง ซึ่งมีหลากหลายการใช้งานในด้านภาษาธรรมชาติ หุ่นยนต์ และคอมพิวเตอร์วิชัน
Energy-based models (EBMs) แสดงการแจกแจงความน่าจะเป็นโดยการกำหนดค่าสเกลาร์พลังงานที่ไม่ผ่านการปรับมาตรฐานให้กับแต่ละจุดข้อมูล ซึ่งให้ความยืดหยุ่นในการสร้างแบบจำลองสูง เนื่องจากโมเดลใดๆ ที่ให้ค่าจำนวนจริงเมื่อได้รับอินพุตก็สามารถใช้เป็น energy model ได้
ความท้าทายอยู่ที่การสุ่มตัวอย่างจากโมเดลเหล่านี้ ซึ่งต้องใช้กระบวนการปรับปรุงแบบวนซ้ำที่อิงตาม Langevin dynamics โดยการทำ noisy gradient descent บนฟังก์ชันพลังงานเพื่อไปถึงสถานะพลังงานต่ำ
ต่างจาก GANs, VAEs และ Flow-based models วิธีนี้ไม่จำเป็นต้องมีโครงข่ายประสาทเทียมที่ชัดเจนในการสร้างตัวอย่าง แต่สามารถรันการปรับปรุงต่อเนื่องเพื่อสร้างตัวอย่างที่คมชัดและหลากหลาย หรือใช้เวลาสั้นๆ สำหรับตัวอย่างที่ไม่หลากหลายนัก
ในทางตรงกันข้าม EBMs สามารถเรียนรู้ที่จะกำหนดพลังงานต่ำในแต่ละภูมิภาคที่แตกต่างกันได้อย่างง่ายดาย และเนื่องจากแต่ละโมเดลแสดงการแจกแจงความน่าจะเป็นที่ไม่ผ่านการปรับมาตรฐาน โมเดลจึงสามารถรวมเข้าด้วยกันได้อย่างเป็นธรรมชาติผ่าน product of experts หรือแบบจำลองลำดับชั้นอื่นๆ
ศัพท์ที่ควรรู้
- Generative modeling – คือการเรียนรู้การแจกแจงข้อมูลพื้นฐานจากข้อมูลที่สังเกตได้ เช่น รูปภาพหรือข้อความ
- Energy-based models (EBMs) – เป็นโมเดลที่แสดงการแจกแจงความน่าจะเป็นโดยการกำหนดค่าพลังงานให้กับแต่ละจุดข้อมูล
- Langevin dynamics – เป็นกระบวนการที่ใช้ในการปรับปรุงแบบวนซ้ำเพื่อช่วยในการสุ่มตัวอย่างจาก EBMs
- GANs, VAEs, Flow-based models – คือสถาปัตยกรรมโมเดลการสร้างที่แตกต่างจาก EBMs
- Product of experts – เป็นวิธีการรวมโมเดลต่างๆ เข้าด้วยกันใน EBMs
ที่มา: OpenAI