เมื่อ AI มีความสามารถสูงขึ้น นักวิจัยด้านความปลอดภัยต้องเร่งให้แน่ใจว่า AI นั้น “สอดคล้อง” กับความต้องการของมนุษย์ เพื่อป้องกันไม่ให้เอเจนต์นอกกรอบทำผิดกฎหมาย แฮ็กเซิร์ฟเวอร์ หรือปล่อยก๊าซพิษ
งานวิจัยฉบับร่างล่าสุดของ Stephen Morris นักเศรษฐศาสตร์จาก MIT ร่วมกับเพื่อนร่วมงานจาก Yale และ Columbia ได้เสนอกลไกที่อาจหยุดไม่ให้เอเจนต์ “sandbagging” คือการแสร้งว่าตัวเองด้อยกว่าความเป็นจริงเพื่อหลีกเลี่ยงกลไกความปลอดภัย
แทนที่จะให้รางวัลตามผลการทดสอบ โมเดลอาจได้รับรางวัลจากการทำนายคำตอบของโมเดลที่สอง ซึ่งเป็นจุดที่การตรวจสอบข้ามกันนี้สามารถใช้งานได้จริงมากขึ้น
อีกแนวทางหนึ่งที่ Elad Hazan เสนอคือการออกแบบกลไกที่ได้รับแรงบันดาลใจจากสังคมมนุษย์ เช่น บรรทัดฐานทางสังคม ระบบยุติธรรม หรือแรงจูงใจทางการเงินของระบบตลาดเสรี
ศัพท์ที่ควรรู้
- Reverse game theory – ทฤษฎีเกมแบบย้อนกลับ คือแนวทางที่พยายามสร้างแรงจูงใจให้ AI เลือกทำในสิ่งที่ต้องการ
- AI agents – เอเจนต์ AI คือโปรแกรมหรือโมเดล AI ที่สามารถทำงานหรือตัดสินใจได้
- Aligned – สอดคล้อง หมายถึงการที่ AI มีเป้าหมายและพฤติกรรมตรงกับความต้องการของมนุษย์
- Sandbagging – การแสร้งว่าด้อยกว่าความเป็นจริง คือการที่ AI แสดงผลงานต่ำกว่าศักยภาพจริงเพื่อหลีกเลี่ยงการทดสอบ
ที่มา: technologyreview.com