เราเชื่อว่าปัญญาประดิษฐ์ขั้นสูงอาจมาถึงภายใน 10 ปีข้างหน้า ซึ่งระบบ AI เหล่านี้จะมีขีดความสามารถมหาศาล พวกมันสามารถเป็นประโยชน์อย่างยิ่งใหญ่ แต่ก็อาจก่อให้เกิดความเสี่ยงสูงเช่นกัน
ปัจจุบันเราใช้ Reinforcement Learning from Human Feedback (RLHF) ในการทำให้ระบบ AI ปัจจุบันมีความปลอดภัย แต่การปรับแนวทางสำหรับ AI ที่เหนือกว่ามนุษย์ในอนาคตนั้นจะเผชิญกับความท้าทายทางเทคนิคใหม่ๆ ที่แตกต่างไปอย่างสิ้นเชิง
ระบบ AI ที่เหนือกว่ามนุษย์จะมีความสามารถในการสร้างพฤติกรรมที่ซับซ้อนและสร้างสรรค์จนมนุษย์อาจไม่สามารถเข้าใจได้อย่างสมบูรณ์ เช่น หากโมเดลสร้างโค้ดที่ซับซ้อนถึงหนึ่งล้านบรรทัด มนุษย์อาจไม่สามารถประเมินได้อย่างน่าเชื่อถือว่าโค้ดนั้นปลอดภัยหรือเป็นอันตรายหรือไม่
นี่คือความท้าทายพื้นฐาน: เราจะควบคุมและไว้วางใจระบบ AI ที่ฉลาดกว่าเราได้อย่างไร? นี่คือปัญหาทางเทคนิคที่สำคัญที่สุดที่ยังไม่มีใครแก้ไขได้ในโลก แต่เราเชื่อว่ามันแก้ไขได้ด้วยความพยายามร่วมกัน
ศัพท์ที่ควรรู้
- Superintelligence – ปัญญาประดิษฐ์ที่มีความสามารถเหนือกว่ามนุษย์ในทุกด้าน
- Reinforcement Learning from Human Feedback (RLHF) – เทคนิคที่ใช้การป้อนกลับจากมนุษย์เพื่อสอนและปรับปรุง AI ให้มีความปลอดภัย
- Alignment – กระบวนการทำให้ AI มีเป้าหมายและพฤติกรรมที่สอดคล้องกับเจตนาของมนุษย์
ที่มา: OpenAI