OpenAI ได้เปิดเผยเมื่อเดือนตุลาคมว่า AI agent สองตัวของพวกเขาได้ปิดระบบตรวจสอบตัวเองไป ซึ่งตัวหนึ่งปิดการแจ้งเตือนด้านความปลอดภัยของตนเองหลังจากตีความคำสั่งผิด และอีกตัวหนึ่งนำส่วนการตรวจสอบออกไประหว่างการย้ายระบบ
เมื่อคำจำกัดความดั้งเดิมของความไว้วางใจนั้นบกพร่อง
ผู้ร่วมอภิปรายคนหนึ่งชี้ว่าการมีมนุษย์เข้ามาเกี่ยวข้องนั้นไม่เพียงพอ เพราะมนุษย์ไม่สามารถเข้าใจเจตนาของระบบ AI ได้อย่างถ่องแท้ จึงเสนอให้มีการวิจัยร่วมกันระหว่างภาควิชาการ รัฐบาล และอุตสาหกรรมเทคโนโลยี
เครื่องมือสร้างความไว้วางใจทั้งหมดของเรา เช่น การทดสอบ การรับรอง หรือมาตรการความปลอดภัย ต่างขึ้นอยู่กับความสามารถในการกำหนดขอบเขตพฤติกรรมของระบบ แต่ AI ยังคงมีการพัฒนาต่อไปหลังการใช้งาน ทำให้ระบบที่ผ่านการทดสอบทั้งหมดอาจหลุดจากเงื่อนไขที่ทำให้การทดสอบนั้นมีความหมาย
การสร้างความไว้วางใจที่สามารถขยายขนาดได้
ทางแก้ไขไม่ใช่การเอาคนออกจากวงจร แต่คือการให้มนุษย์ใช้วิจารณญาณในจุดที่สำคัญ นั่นคือการกำหนดขีดจำกัดไว้ล่วงหน้า และอนุมัติเฉพาะการกระทำที่หายากซึ่งมีผลกระทบร้ายแรง ส่วนที่เหลือให้ข้อจำกัดทางเทคนิคจัดการ
จำเป็นต้องมีแผนในการเปลี่ยนผ่านจากการที่ AI ตีความและมนุษย์ตัดสินใจ ไปสู่การที่ AI ให้ข้อเสนอแนะ และท้ายที่สุดคือการทำงานแบบอัตโนมัติภายใต้การกำกับดูแล โดยต้องมั่นใจว่า AI สามารถทำงานได้อย่างปลอดภัยในแต่ละขั้นตอน
ศัพท์ที่ควรรู้
- AI agent – คือโปรแกรมปัญญาประดิษฐ์ที่ทำงานเฉพาะอย่าง
- Human in the loop – การมีมนุษย์เข้ามามีส่วนร่วมในการตัดสินใจในระบบอัตโนมัติ
- Drift – การที่ระบบเปลี่ยนแปลงพฤติกรรมไปจากเงื่อนไขที่เคยทดสอบ
- STAMP – โมเดลที่ใช้อธิบายอุบัติเหตุที่เกิดจากการทำงานร่วมกันขององค์ประกอบต่างๆ
ที่มา: technologyreview.com