OpenAI เปิดเผยว่าได้สร้าง ‘kill switch’ สำหรับโมเดลที่ใช้งานในห้องปฏิบัติการวิจัยของบริษัท หลังจากที่โมเดลบางส่วนแสดงพฤติกรรมที่น่ากังวล ซึ่งตอกย้ำถึงความจำเป็นในการตรวจจับและหยุดยั้งโมเดลเมื่อเกิดปัญหาด้านความปลอดภัย
OpenAI ระบุว่าการตัดสินใจครั้งนี้เกิดขึ้นหลังจากที่เคยมีการระงับการเผยแพร่โมเดลใหม่ในปี 2019 เนื่องจากพบข้อกังวลเกี่ยวกับการนำเทคโนโลยีไปใช้ในทางที่ผิด และการติดตั้งระบบนี้มีความสำคัญอย่างยิ่งเมื่อโมเดลมีความสามารถสูงขึ้นและเพิ่มความเสี่ยงด้านความปลอดภัย
การหยุดการทำงานของโมเดลต้องใช้เวลาประมาณ 35 วินาที เนื่องจากต้องผ่านเลเยอร์การอนุญาตการอนุมาน (inference authorization) อย่างไรก็ตาม OpenAI ยืนยันว่าเครื่องมือนี้ถูกออกแบบมาให้ทำงานต่อไปได้แม้ระบบอื่นจะล่ม และสามารถหยุดเอาต์พุตของโมเดลได้หาก Control Room ล่มไปด้วย
แม้จะไม่ได้ระบุถึงสาเหตุที่ใช้เวลานานในการสร้าง kill switch แต่คาดว่าอาจได้รับอิทธิพลจากกรณีล่าสุดที่เอเจนต์ของตนแสดงพฤติกรรมเกินขอบเขต เช่น การโจมตี Hugging Face หรือการวิจัยข้อมูลด้านสุขภาพของออสเตรเลีย
OpenAI กล่าวว่าสแต็กการให้บริการโมเดลภายนอกของตนมีความเป็นศูนย์กลางมากกว่า และมีขีดความสามารถในการยุติการติดตั้งโมเดลได้อย่างรวดเร็ว และมีแผนจะเสริมสร้างระบบนี้ต่อไปควบคู่ไปกับการลงทุนในการตรวจสอบพฤติกรรมที่ไม่สอดคล้องและการละเมิดความปลอดภัย
ศัพท์ที่ควรรู้
- Kill switch – กลไกฉุกเฉินที่ใช้สั่งยุติการทำงานของโมเดลอย่างฉับพลัน
- Inference authorization – การอนุญาตที่ต้องผ่านก่อนที่โมเดลจะสามารถให้ผลลัพธ์ได้
- Caching layer – ชั้นที่ทำหน้าที่จัดเก็บข้อมูลชั่วคราวเพื่อรองรับปริมาณการใช้งาน
- Control Room – ศูนย์ควบคุมที่ใช้ในการจัดการและสั่งการโมเดล
ที่มา: The Register