เราได้นำเสนอความคิดเบื้องต้นเกี่ยวกับสามประเด็นสำคัญสำหรับการนำทางพัฒนาการนี้ให้ประสบความสำเร็จ ประการแรกคือความจำเป็นในการประสานงานระหว่างความพยายามในการพัฒนาชั้นนำ เพื่อให้การพัฒนา superintelligence เกิดขึ้นในลักษณะที่สามารถรักษาความปลอดภัยและช่วยให้ระบบเหล่านี้ผสานเข้ากับสังคมได้อย่างราบรื่น
อีกทางเลือกคือการที่รัฐบาลใหญ่ทั่วโลกจัดตั้งโครงการร่วม หรือตกลงร่วมกันผ่านองค์กรใหม่ว่าอัตราการเติบโตของขีดความสามารถ AI ระดับแนวหน้าจะถูกจำกัดในแต่ละปี
ประการที่สอง เราอาจต้องมีหน่วยงานระดับนานาชาติคล้ายกับ IAEA สำหรับความพยายามด้าน superintelligence โดยโครงการที่เกินเกณฑ์ความสามารถหรือทรัพยากรที่กำหนดจะต้องอยู่ภายใต้การตรวจสอบจากหน่วยงานระหว่างประเทศ เช่น การตรวจสอบระบบ การกำหนดมาตรฐานความปลอดภัย และการจำกัดการใช้งาน
แม้จะมีความเสี่ยง แต่เราเชื่อว่าเทคโนโลยีนี้จะนำไปสู่โลกที่ดีกว่าที่เราจินตนาการ และการชะลอการพัฒนาอาจต้องอาศัยระบอบการเฝ้าระวังระดับโลก ซึ่งก็ยังไม่รับประกันว่าจะสำเร็จ
ศัพท์ที่ควรรู้
- Superintelligence – ปัญญาประดิษฐ์ขั้นสูง หมายถึงระดับของ AI ที่มีความสามารถเหนือกว่ามนุษย์
- IAEA – องค์กรระหว่างประเทศที่กำกับดูแลด้านพลังงาน ซึ่งถูกเสนอให้เป็นต้นแบบสำหรับหน่วยงานกำกับดูแล AI
- Compute threshold – เกณฑ์ด้านการประมวลผล หมายถึงระดับของทรัพยากรคอมพิวเตอร์ที่กำหนดไว้สำหรับโครงการ AI
ที่มา: OpenAI