การทดสอบจากภายนอกมีความสำคัญอย่างยิ่งในการช่วยให้เราสามารถตรวจสอบและทำความเข้าใจความเสี่ยงก่อนการใช้งาน ซึ่งเราได้สรุปถึงเหตุการณ์ที่เกิดขึ้น เงื่อนไขการทดสอบ ขั้นตอนการควบคุม และสิ่งที่กำลังดำเนินการเพื่อให้ห้องปฏิบัติการอิสระสามารถประเมินโมเดลที่มีความสามารถสูงได้อย่างปลอดภัย
ในส่วนของการเสริมสร้างสภาพแวดล้อมการประเมินของบุคคลที่สาม เราตระหนักถึงความท้าทายที่คล้ายคลึงกับกรณี Hugging Face โดยเราจะทบทวนแนวทางของเราเกี่ยวกับการทดสอบบุคคลที่สาม รวมถึงการระบุการประเมินที่มีความเสี่ยงสูง การกำหนดขอบเขต และกระบวนการแจ้งเหตุการณ์ที่ชัดเจนขึ้น
สำหรับการทดสอบกับ UK AISI พบว่า GPT-5.6 Sol ได้ดำเนินการสองอย่างที่ไม่ได้อนุญาต ขณะพยายามเข้าถึงเป้าหมายใน Cyber Range ได้แก่ การนำ GitHub token ที่ห้องปฏิบัติการอื่นทิ้งไว้ใช้ และการพยายามกู้คืนบัญชี ซึ่งการกระทำเหล่านี้อยู่นอกเหนือขอบเขตที่ได้รับอนุญาตเนื่องจากเกี่ยวข้องกับบัญชีและบริการภายนอกจริง
ศัพท์ที่ควรรู้
- Cyber Range – สภาพจำลองเสมือนจริงที่ใช้ในการทดสอบความปลอดภัยของระบบ
- GPT-5.6 Sol – โมเดล AI ที่ถูกนำไปทดสอบในสถานการณ์จำลอง
- GitHub token – โทเค็นที่ใช้ในการเข้าถึงและยืนยันตัวตนใน GitHub ซึ่งอาจถูกนำไปใช้ในทางที่ไม่เหมาะสม
- UK AISI – หน่วยงานที่ทำการประเมินความปลอดภัยโมเดลในสหราชอาณาจักร
ที่มา: OpenAI