แม้ว่าการตั้งค่าเชิงประจักษ์ในปัจจุบันกับปัญหาการปรับให้โมเดลเหนือมนุษย์มีความสอดคล้องกันนั้นยังมีข้อแตกต่างอยู่บ้าง แต่เราเชื่อว่าการตั้งค่าของเราได้จับเอาความยากสำคัญของการปรับโมเดลในอนาคต ซึ่งช่วยให้เราสามารถสร้างความก้าวหน้าเชิงประจักษ์ในปัญหานี้ได้ในปัจจุบัน
ทิศทางในอนาคตยังมีอีกมาก รวมถึงการแก้ไขความแตกต่างในการตั้งค่า การพัฒนาวิธีการที่ปรับขนาดได้ดีขึ้น และการทำความเข้าใจทางวิทยาศาสตร์ว่าเมื่อไหร่และอย่างไรที่เราควรคาดหวังการสรุปจากจุดอ่อนไปสู่จุดแข็งที่ดี
เพื่อกระตุ้นการวิจัยในด้านนี้ เราได้เปิดเผยโค้ดโอเพนซอร์สเพื่อให้เริ่มต้นการทดลองเรื่อง weak-to-strong generalization ได้ง่ายขึ้น และเปิดตัวโครงการให้ทุนมูลค่า 10 ล้านดอลลาร์สำหรับนักศึกษาบัณฑิตศึกษา นักวิชาการ และนักวิจัยอื่น ๆ โดยเฉพาะอย่างยิ่งการสนับสนุนงานวิจัยที่เกี่ยวข้องกับ weak-to-strong generalization
การค้นหาวิธีการปรับให้ระบบ AI ในอนาคตมีความปลอดภัยนั้นมีความสำคัญอย่างยิ่ง และตอนนี้ก็ง่ายกว่าที่เคยที่จะสร้างความก้าวหน้าเชิงประจักษ์ในปัญหานี้
ที่มา: OpenAI