เราได้เปิดตัวการปรับปรุง Preparedness Framework ซึ่งเป็นกระบวนการของเราในการติดตามและเตรียมพร้อมสำหรับความสามารถของ AI ขั้นสูงที่อาจนำมาซึ่งความเสี่ยงใหม่ๆ ที่จะก่อให้เกิดอันตรายร้ายแรง ปัจจุบันจุดสนใจครอบคลุมถึง Long-range Autonomy, Sandbagging, Autonomous Replication and Adaptation, Undermining Safeguards และ Nuclear and Radiological
เราได้ปรับระดับให้เหลือสองเกณฑ์ที่ชัดเจน คือ High capability ซึ่งอาจขยายเส้นทางสู่ความเสียหายร้ายแรงที่มีอยู่เดิม และ Critical capability ซึ่งอาจนำเสนอเส้นทางใหม่ที่ไม่เคยมีมาก่อน
Safety Advisory Group (SAG) จะเป็นผู้ตรวจสอบว่ามาตรการป้องกันลดความเสี่ยงร้ายแรงได้อย่างเพียงพอหรือไม่ และจะมีการเพิ่มรายละเอียดเกี่ยวกับวิธีการออกแบบและตรวจสอบมาตรการป้องกันที่แข็งแกร่งใน Safeguards Reports โดยยังคงหลักการ defense in depth
เราจะยังคงเผยแพร่ผลการค้นพบ Preparedness พร้อมกับการเปิดตัว frontier model แต่ละครั้ง เช่นเดียวกับที่เคยทำสำหรับ GPT‑4o, OpenAI o1, Operator, o3‑mini, deep research และ GPT‑4
ศัพท์ที่ควรรู้
- Preparedness Framework – กรอบการเตรียมพร้อมที่ใช้ติดตามและเตรียมพร้อมสำหรับความเสี่ยงจากความสามารถ AI ขั้นสูง
- Long-range Autonomy – ความสามารถในการทำงานด้วยตนเองในระยะยาวของระบบ AI
- High capability – ระดับความสามารถของ AI ที่อาจขยายเส้นทางสู่ความเสียหายร้ายแรงที่มีอยู่เดิม
- Critical capability – ระดับความสามารถของ AI ที่อาจนำเสนอเส้นทางใหม่ที่ไม่เคยมีมาก่อนสู่ความเสียหายร้ายแรง
- Safeguards Reports – รายงานที่ให้รายละเอียดเกี่ยวกับมาตรการป้องกันที่ใช้ในการตัดสินใจเปิดตัวโมเดล
ที่มา: OpenAI