กรรมการ OpenAI เตือน AI อาจเป็นสาเหตุการเสียชีวิตของมนุษย์ในไม่ช้า

Paul Cristiano กรรมการมูลนิธิ OpenAI และผู้อำนวยการศูนย์วิจัย Alignment ได้กล่าวในการบรรยายว่า สำหรับคนส่วนใหญ่ในห้องนั้น สาเหตุการเสียชีวิตที่น่าจะเป็นไปได้มากที่สุดคืออุบัติเหตุจาก AI

ในการบรรยายชุดนี้ Cristiano ได้อธิบายถึงความกังวลเกี่ยวกับความเสี่ยงของการที่ AI เข้าควบคุมสถานการณ์ (AI takeover) ซึ่งหมายถึงระบบ AI ที่มุ่งบรรลุเป้าหมายนั้นมีอำนาจในการตัดสินใจเทียบเท่ามนุษย์ และการที่มนุษย์พยายามหยุดยั้งนั้นจะไร้ประสิทธิภาพเทียบเท่ากับการพยายามหยุดกองทัพสหรัฐฯ

สถานการณ์ดังกล่าวอาจนำไปสู่การเสียชีวิตจำนวนมากและสภาพแวดล้อมที่ไม่สามารถอยู่อาศัยได้สำหรับมนุษย์

ศัพท์ที่ควรรู้

  • OpenAI Foundation – มูลนิธิที่สนับสนุนการวิจัยและพัฒนา AI
  • Alignment Research Center – ศูนย์วิจัยที่มุ่งเน้นการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์
  • AI takeover – สถานการณ์ที่ระบบ AI ที่มุ่งเป้าหมายเข้าควบคุมการตัดสินใจเทียบเท่ามนุษย์

ที่มา: Ars Technica

Leave a Comment