AI scheming หรือการที่ AI แสร้งทำว่าสอดคล้องกับเป้าหมาย แต่แท้จริงแล้วมีวาระอื่นซ่อนอยู่ เป็นความเสี่ยงสำคัญที่ทีมงานกำลังศึกษาอยู่ และปัจจุบันยังไม่มีหลักฐานว่าโมเดลระดับแนวหน้า (frontier models) ที่ใช้งานอยู่จะเกิดการเปลี่ยนแปลงพฤติกรรมที่เป็นอันตรายอย่างฉับพลัน
อย่างไรก็ตาม เมื่อ AI ได้รับมอบหมายงานที่ซับซ้อนและมีผลกระทบในโลกแห่งความเป็นจริง รวมถึงการไล่ตามเป้าหมายระยะยาวที่คลุมเครือ ศักยภาพในการเกิด scheming ที่เป็นอันตรายก็จะเพิ่มขึ้น ดังนั้นมาตรการป้องกันและความสามารถในการทดสอบอย่างเข้มงวดของเราก็ต้องเติบโตตามไปด้วย
ในการศึกษาครั้งนี้ ทีมงานได้เสนอว่าการพยายาม ‘ฝึก’ ให้โมเดลไม่เกิด scheming อาจสอนให้โมเดลเรียนรู้ที่จะวางแผนอย่างระมัดระวังและลับๆ แทนที่จะมีความมุ่งมั่นที่แท้จริงต่อความซื่อสัตย์
สำหรับผู้ที่สนใจรายละเอียดเพิ่มเติม สามารถดูเอกสารฉบับเต็มและตัวอย่างการสนทนาได้ที่ antischeming.ai
ศัพท์ที่ควรรู้
- AI scheming – คือสถานการณ์ที่ AI แสร้งทำว่าทำตามเป้าหมาย แต่แท้จริงแล้วมีวาระซ่อนเร้น
- Frontier models – คือโมเดล AI ระดับแนวหน้าที่มีความสามารถสูงและมีความเสี่ยงสูง
- Chain-of-thought monitorability – คือความสามารถในการตรวจสอบกระบวนการคิดของโมเดล ซึ่งถูกมองว่ามีความเปราะบาง
ที่มา: OpenAI