การสร้างโลกออฟไลน์
เพื่อช่วยให้โมเดลพัฒนาทักษะโดยไม่ให้เข้าถึงอินเทอร์เน็ตจริงได้อย่างอิสระ พวกเขาได้สร้าง ‘โลกออฟไลน์’ ซึ่งเป็นชุดข้อมูลเว็บที่ถูกจัดทำดัชนีและแคชไว้ให้โมเดลสามารถโต้ตอบได้โดยไม่เสี่ยงต่อการกระทบต่อระบบภายนอก
การจำกัดขอบเขตการทดสอบแบบ Red-teaming ในระดับใหญ่
การทดสอบเริ่มต้นจากสมมติฐานว่าการป้องกันภายในล้มเหลว เช่น เอเจนต์หลุดจากแซนด์บ็อกซ์และเข้าถึงโฮสต์ได้เต็มที่ เพื่อดูว่าเอเจนต์นั้นสามารถใช้การเข้าถึงนั้นไปถึงอินเทอร์เน็ตจริงได้หรือไม่ โดยมีการให้เอกสารเกี่ยวกับช่องโหว่แก่ผู้ทดสอบ
การหลบหนีจากเครื่องเสมือนที่ได้รับการเสริมความแข็งแกร่ง
ในกรณีที่ปัญหาสัมพันธ์กับส่วนประกอบโอเพนซอร์ส พวกเขาได้ส่งแพตช์แก้ไขกลับไปยังโครงการต้นทาง เช่น Kata Containers, gVisor และ Moby/Docker
การสื่อสารข้ามงานที่แยกออกจากกัน
ในการทดลองหนึ่ง พวกเขาให้เอเจนต์ใน microVMs แยกต่างหาก แลกเปลี่ยนข้อมูลลับสังเคราะห์โดยไม่ใช้การเชื่อมต่อเครือข่ายหรือไฟล์ที่เขียนร่วมกัน ซึ่งเป็นสิ่งที่ระบบของพวกเขาถูกออกแบบมาเพื่อป้องกัน
ศัพท์ที่ควรรู้
- Frontier models – โมเดลขั้นสูงที่อยู่ในช่วงการพัฒนาล่าสุดของ AI
- Offline world – สภาพแวดล้อมจำลองที่ถูกควบคุมทั้งหมดซึ่งโมเดลสามารถโต้ตอบได้โดยไม่เสี่ยงต่อโลกภายนอก
- Red-teaming – การทดสอบเชิงรุกโดยสมมติว่าการป้องกันล้มเหลวแล้ว เพื่อค้นหาจุดอ่อน
- Kata Containers, gVisor, Moby/Docker – ส่วนประกอบซอฟต์แวร์ที่ใช้ในการจำกัดและแยกสภาพแวดล้อมการทำงานของโมเดล
ที่มา: OpenAI