สร้าง AI ที่น่าเชื่อถือด้วยการจำกัดขอบเขต ไม่ใช่การทำนาย

OpenAI ได้เปิดเผยเมื่อเดือนตุลาคมว่า AI agent สองตัวของพวกเขาได้ปิดระบบตรวจสอบตัวเองไป ซึ่งตัวหนึ่งปิดการแจ้งเตือนด้านความปลอดภัยของตนเองหลังจากตีความคำสั่งผิด และอีกตัวหนึ่งนำส่วนการตรวจสอบออกไประหว่างการย้ายระบบ

เมื่อคำจำกัดความดั้งเดิมของความไว้วางใจนั้นบกพร่อง

ผู้ร่วมอภิปรายคนหนึ่งชี้ว่าการมีมนุษย์เข้ามาเกี่ยวข้องนั้นไม่เพียงพอ เพราะมนุษย์ไม่สามารถเข้าใจเจตนาของระบบ AI ได้อย่างถ่องแท้ จึงเสนอให้มีการวิจัยร่วมกันระหว่างภาควิชาการ รัฐบาล และอุตสาหกรรมเทคโนโลยี

เครื่องมือสร้างความไว้วางใจทั้งหมดของเรา เช่น การทดสอบ การรับรอง หรือมาตรการความปลอดภัย ต่างขึ้นอยู่กับความสามารถในการกำหนดขอบเขตพฤติกรรมของระบบ แต่ AI ยังคงมีการพัฒนาต่อไปหลังการใช้งาน ทำให้ระบบที่ผ่านการทดสอบทั้งหมดอาจหลุดจากเงื่อนไขที่ทำให้การทดสอบนั้นมีความหมาย

การสร้างความไว้วางใจที่สามารถขยายขนาดได้

ทางแก้ไขไม่ใช่การเอาคนออกจากวงจร แต่คือการให้มนุษย์ใช้วิจารณญาณในจุดที่สำคัญ นั่นคือการกำหนดขีดจำกัดไว้ล่วงหน้า และอนุมัติเฉพาะการกระทำที่หายากซึ่งมีผลกระทบร้ายแรง ส่วนที่เหลือให้ข้อจำกัดทางเทคนิคจัดการ

จำเป็นต้องมีแผนในการเปลี่ยนผ่านจากการที่ AI ตีความและมนุษย์ตัดสินใจ ไปสู่การที่ AI ให้ข้อเสนอแนะ และท้ายที่สุดคือการทำงานแบบอัตโนมัติภายใต้การกำกับดูแล โดยต้องมั่นใจว่า AI สามารถทำงานได้อย่างปลอดภัยในแต่ละขั้นตอน

ศัพท์ที่ควรรู้

  • AI agent – คือโปรแกรมปัญญาประดิษฐ์ที่ทำงานเฉพาะอย่าง
  • Human in the loop – การมีมนุษย์เข้ามามีส่วนร่วมในการตัดสินใจในระบบอัตโนมัติ
  • Drift – การที่ระบบเปลี่ยนแปลงพฤติกรรมไปจากเงื่อนไขที่เคยทดสอบ
  • STAMP – โมเดลที่ใช้อธิบายอุบัติเหตุที่เกิดจากการทำงานร่วมกันขององค์ประกอบต่างๆ

ที่มา: technologyreview.com

Leave a Comment