ขณะที่ AI Agents มีความสามารถในการทำงานที่ซับซ้อนและเป็นอิสระมากขึ้น การรักษาการกำกับดูแลพฤติกรรมของพวกมันจึงมีความสำคัญอย่างยิ่ง เพื่อสนับสนุนเรื่องนี้ แนวทางด้านความปลอดภัยของเราใช้หลักการ defense-in-depth ซึ่งประกอบด้วยการฝึกด้านความปลอดภัย, การทดสอบพฤติกรรม, agentic code review และการตรวจสอบ chain-of-thought (CoT) monitoring
CoT controllability คืออะไร
เราทดสอบว่าโมเดลสามารถปฏิบัติตามคำสั่งที่ส่งผลต่อการให้เหตุผลภายในของมันได้หรือไม่ เช่น การใช้เฉพาะตัวพิมพ์เล็ก หรือการเพิ่มวลีเฉพาะ โดยการจับคู่ปัญหามาตรฐานเข้ากับคำสั่ง CoT เช่น การหลีกเลี่ยงคำสำคัญบางคำ หรือการต่อท้ายประโยคด้วยคำที่กำหนด
ก้าวต่อไป
การประเมิน CoT controllability เปรียบเสมือนสัญญาณเตือนล่วงหน้าว่าโมเดลกำลังปรับปรุงหรือซ่อนกระบวนการคิดของมันได้ดีขึ้น ผลการวิจัยบ่งชี้ว่า CoT controllability ในปัจจุบันไม่น่าจะเป็นความเสี่ยงหลักต่อ CoT monitorability แต่เราจะเริ่มรายงานทั้งสองค่านี้ใน System Cards สำหรับโมเดลอนาคตอย่าง GPT-5.4 Thinking
ศัพท์ที่ควรรู้
- AI Agents – ตัวแทนปัญญาประดิษฐ์ที่สามารถทำงานต่างๆ ได้ด้วยตนเอง Defense-in-depth – แนวทางการป้องกันหลายชั้นที่ใช้หลายมาตรการเสริมกันเพื่อความปลอดภัยสูงสุด CoT controllability – ความสามารถในการควบคุมกระบวนการคิดภายในของโมเดลผ่านคำสั่งภายนอก CoT monitoring – การเฝ้าติดตามและตรวจสอบกระบวนการให้เหตุผล (Chain-of-Thought) ของโมเดล GPT-5.4 Thinking – ชื่อโมเดลในอนาคตของ OpenAI ที่จะมีการรายงานข้อมูลเหล่านี้
ที่มา: OpenAI