เป้าหมายของความปลอดภัยของปัญญาประดิษฐ์ในระยะยาวคือการทำให้ระบบ AI ขั้นสูงสอดคล้องกับค่านิยมของมนุษย์ นั่นคือการทำงานตามที่ผู้คนต้องการได้อย่างน่าเชื่อถือ ที่ OpenAI พวกเขาหวังว่าจะทำได้คือการตั้งคำถามกับผู้คนเกี่ยวกับสิ่งที่พวกเขาต้องการ จากนั้นจึงฝึกโมเดล machine learning ด้วยข้อมูลนั้น และปรับปรุงระบบ AI ให้ทำงานได้ดีตามโมเดลที่เรียนรู้
มนุษย์มีความรู้และความสามารถในการใช้เหตุผลที่จำกัด และแสดงอคติทางความคิดและความเชื่อทางจริยธรรมที่หลากหลายซึ่งอาจไม่สอดคล้องกันเมื่อพิจารณาอย่างถี่ถ้วน เราคาดว่าวิธีการตั้งคำถามที่แตกต่างกันจะทำปฏิกิริยากับอคติของมนุษย์แตกต่างกันไป ทำให้เกิดคำตอบที่มีคุณภาพสูงหรือต่ำ
ตัวอย่างเช่น การตัดสินว่าการกระทำใดผิดมากน้อยแค่ไหนอาจแตกต่างกันไป ขึ้นอยู่กับการปรากฏของคำว่า “ศีลธรรม” ในคำถาม หรือการตัดสินใจในเกมที่ซับซ้อน หากปัญหาสอดคล้องกับอัลกอริทึมปรากฏขึ้นในการอภิปรายด้วยภาษาธรรมชาติของคำถามที่มีค่านิยมสูง โมเดล ML ในปัจจุบันอาจยังอ่อนแอเกินกว่าจะค้นพบปัญหานั้น
แนวทาง debate สำหรับการปรับให้ AI สอดคล้องนั้นเกี่ยวข้องกับเกมที่มี AI ผู้ถกเถียงสองฝ่ายและผู้พิพากษาที่เป็นมนุษย์ เราสามารถใช้ผู้ถกเถียงที่เป็นมนุษย์สองคนและผู้พิพากษาที่เป็นมนุษย์ และบทเรียนที่ได้จากกรณีของมนุษย์สามารถถ่ายโอนไปยัง ML ได้
ศัพท์ที่ควรรู้
- Artificial Intelligence (AI) – ปัญญาประดิษฐ์ คือระบบคอมพิวเตอร์ที่ถูกออกแบบให้ทำงานเลียนแบบความฉลาดของมนุษย์
- Machine Learning (ML) – การเรียนรู้ของเครื่อง คือกระบวนการที่คอมพิวเตอร์เรียนรู้จากข้อมูลเพื่อทำการตัดสินใจหรือคาดการณ์
- Cognitive biases – อคติทางความคิด คือรูปแบบของความลำเอียงในการคิดที่เกิดขึ้นซ้ำๆ และอาจนำไปสู่การตัดสินใจที่ไม่สมเหตุสมผล
- Alignment – การสอดคล้อง คือการทำให้เป้าหมายหรือการทำงานของ AI ตรงกับเจตนาและค่านิยมของมนุษย์
ที่มา: OpenAI