OpenAI เปิดให้ 4 หน่วยงานอิสระเข้าตรวจสอบระบบ AI ด้วยตนเอง

OpenAI ได้ประกาศว่ากำลังร่วมมือกับ Apollo Research, METR, Transluce และ Goodfire ในการเปิดให้องค์กรภายนอกเหล่านี้เข้าถึงระบบ AI ภายในเพื่อตรวจสอบความเสี่ยงด้านความปลอดภัยและพฤติกรรมของโมเดล

การตรวจสอบนี้ต่อยอดจากการทบทวนระบบการเฝ้าระวังก่อนหน้านี้ และเป็นการตอบสนองต่อข้อผูกพันภายใต้ “White House Accord on Super Intelligence”

แต่ละองค์กรได้รับมอบหมายงานที่แตกต่างกัน เช่น Apollo Research ตรวจสอบว่าโมเดลทำงานขัดแย้งกับเจตนาของผู้พัฒนาหรือไม่ ขณะที่ METR ตรวจสอบพฤติกรรมที่ไม่เหมาะสมของ AI ในการฝึกด้วย Reinforcement Learning

ในระหว่างกระบวนการนี้ มีคณะกรรมการด้านความปลอดภัยอิสระคอยกำกับดูแลทั้งหมด และผู้ตรวจสอบจะเผยแพร่รายงานของตนเองอย่างอิสระ แม้ว่า OpenAI จะสามารถเซ็นเซอร์ข้อมูลที่เป็นความลับหรือชะลอรายงานเพื่อแก้ไขความเสี่ยงก่อนได้ก็ตาม

ทั้ง OpenAI และ Transluce ยังวางแผนการทบทวนติดตามผลอีก 8 สัปดาห์ในช่วงต้นปี 2027 และบริษัทกำลังพิจารณาการตรวจสอบเพิ่มเติมในอนาคต

AI News Without the Hype – Curated by Humans

สมัครรับ THE DECODER เพื่ออ่านแบบไม่มีโฆษณา จดหมายข่าว AI รายสัปดาห์ รายงาน “AI Radar” สุดพิเศษ และอื่นๆ

ศัพท์ที่ควรรู้

  • On-site auditors – ผู้ตรวจสอบที่เข้าถึงสถานที่จริงเพื่อตรวจสอบระบบของบริษัท
  • Apollo Research, METR, Transluce, Goodfire – 4 องค์กรภายนอกที่ได้รับมอบหมายให้ตรวจสอบระบบ AI ของ OpenAI
  • Source code – โค้ดต้นฉบับของโมเดลที่ผู้ตรวจสอบสามารถเข้าถึงได้
  • Reinforcement learning – วิธีการที่โมเดลเรียนรู้ผ่านระบบการให้รางวัลและการลงโทษ

ที่มา: The Decoder

Leave a Comment