ไซเบอร์มีความเปลี่ยนแปลงอย่างรวดเร็ว เนื่องจากโมเดลมีความสามารถที่สามารถเสริมการป้องกันไซเบอร์และเปิดใช้งานการโจมตีด้วยความเร็วและขนาดที่ไม่เคยมีมาก่อน ผลการประเมินล่าสุดชี้ว่าไม่สามารถตัดความเป็นไปได้ของขีดความสามารถด้านไซเบอร์ในระดับวิกฤตภายใต้กรอบการเตรียมพร้อมของบริษัทฯ ได้
การวัดขีดความสามารถด้านไซเบอร์ที่สำคัญ
โมเดลจะถึงเกณฑ์วิกฤต หากสามารถระบุและพัฒนา exploit แบบ zero-day ที่ใช้งานได้ในระบบสำคัญระดับโลกโดยไม่ต้องมีการแทรกแซงของมนุษย์ หรือสามารถออกแบบกลยุทธ์การโจมตีแบบครบวงจรสำหรับเป้าหมายที่ป้องกันแน่นหนาได้
ขั้นตอนที่เรากำลังดำเนินการ
ภายในองค์กร เราได้ใช้มาตรการรักษาความปลอดภัยที่เข้มงวดขึ้นสำหรับโมเดลที่มีความสามารถสูง เช่น การทดสอบในสภาพแวดล้อมแยก การจำกัดการเข้าถึงเครือข่าย และการเข้ารหัส เพื่อให้การพัฒนาเป็นไปอย่างปลอดภัย
บริษัทฯ มุ่งมั่นที่จะทำงานร่วมกับรัฐบาล สถาบันด้านความปลอดภัย และภาคประชาสังคม เพื่อให้มั่นใจว่าขีดความสามารถขั้นสูงของโมเดลต่างๆ จะถูกนำไปใช้เพื่อประโยชน์ของมวลมนุษยชาติอย่างมีความรับผิดชอบ
ศัพท์ที่ควรรู้
- Zero-day exploits – ช่องโหว่ที่ยังไม่มีใครทราบถึงการมีอยู่ ทำให้การโจมตีเป็นไปได้ก่อนจะมีแพตช์ป้องกัน
- Preparedness Framework – กรอบการเตรียมพร้อมที่บริษัทฯ ใช้ในการประเมินระดับความเสี่ยงและความสามารถของโมเดล
- Critical cybersecurity capabilities – ขีดความสามารถด้านไซเบอร์ในระดับวิกฤต ซึ่งหมายถึงการโจมตีหรือป้องกันในระดับสูงสุด
- Isolated testing environments – สภาพแวดล้อมการทดสอบที่แยกออกจากระบบภายนอก เพื่อป้องกันการรั่วไหลหรือการถูกโจมตี
ที่มา: OpenAI