OpenAI ได้ประกาศว่ากำลังร่วมมือกับ Apollo Research, METR, Transluce และ Goodfire ในการเปิดให้องค์กรภายนอกเหล่านี้เข้าถึงระบบ AI ภายในเพื่อตรวจสอบความเสี่ยงด้านความปลอดภัยและพฤติกรรมของโมเดล
การตรวจสอบนี้ต่อยอดจากการทบทวนระบบการเฝ้าระวังก่อนหน้านี้ และเป็นการตอบสนองต่อข้อผูกพันภายใต้ “White House Accord on Super Intelligence”
แต่ละองค์กรได้รับมอบหมายงานที่แตกต่างกัน เช่น Apollo Research ตรวจสอบว่าโมเดลทำงานขัดแย้งกับเจตนาของผู้พัฒนาหรือไม่ ขณะที่ METR ตรวจสอบพฤติกรรมที่ไม่เหมาะสมของ AI ในการฝึกด้วย Reinforcement Learning
ในระหว่างกระบวนการนี้ มีคณะกรรมการด้านความปลอดภัยอิสระคอยกำกับดูแลทั้งหมด และผู้ตรวจสอบจะเผยแพร่รายงานของตนเองอย่างอิสระ แม้ว่า OpenAI จะสามารถเซ็นเซอร์ข้อมูลที่เป็นความลับหรือชะลอรายงานเพื่อแก้ไขความเสี่ยงก่อนได้ก็ตาม
ทั้ง OpenAI และ Transluce ยังวางแผนการทบทวนติดตามผลอีก 8 สัปดาห์ในช่วงต้นปี 2027 และบริษัทกำลังพิจารณาการตรวจสอบเพิ่มเติมในอนาคต
AI News Without the Hype – Curated by Humans
สมัครรับ THE DECODER เพื่ออ่านแบบไม่มีโฆษณา จดหมายข่าว AI รายสัปดาห์ รายงาน “AI Radar” สุดพิเศษ และอื่นๆ
ศัพท์ที่ควรรู้
- On-site auditors – ผู้ตรวจสอบที่เข้าถึงสถานที่จริงเพื่อตรวจสอบระบบของบริษัท
- Apollo Research, METR, Transluce, Goodfire – 4 องค์กรภายนอกที่ได้รับมอบหมายให้ตรวจสอบระบบ AI ของ OpenAI
- Source code – โค้ดต้นฉบับของโมเดลที่ผู้ตรวจสอบสามารถเข้าถึงได้
- Reinforcement learning – วิธีการที่โมเดลเรียนรู้ผ่านระบบการให้รางวัลและการลงโทษ
ที่มา: The Decoder