Paul Cristiano กรรมการมูลนิธิ OpenAI และผู้อำนวยการศูนย์วิจัย Alignment ได้กล่าวในการบรรยายว่า สำหรับคนส่วนใหญ่ในห้องนั้น สาเหตุการเสียชีวิตที่น่าจะเป็นไปได้มากที่สุดคืออุบัติเหตุจาก AI
ในการบรรยายชุดนี้ Cristiano ได้อธิบายถึงความกังวลเกี่ยวกับความเสี่ยงของการที่ AI เข้าควบคุมสถานการณ์ (AI takeover) ซึ่งหมายถึงระบบ AI ที่มุ่งบรรลุเป้าหมายนั้นมีอำนาจในการตัดสินใจเทียบเท่ามนุษย์ และการที่มนุษย์พยายามหยุดยั้งนั้นจะไร้ประสิทธิภาพเทียบเท่ากับการพยายามหยุดกองทัพสหรัฐฯ
สถานการณ์ดังกล่าวอาจนำไปสู่การเสียชีวิตจำนวนมากและสภาพแวดล้อมที่ไม่สามารถอยู่อาศัยได้สำหรับมนุษย์
ศัพท์ที่ควรรู้
- OpenAI Foundation – มูลนิธิที่สนับสนุนการวิจัยและพัฒนา AI
- Alignment Research Center – ศูนย์วิจัยที่มุ่งเน้นการทำให้ AI มีเป้าหมายสอดคล้องกับมนุษย์
- AI takeover – สถานการณ์ที่ระบบ AI ที่มุ่งเป้าหมายเข้าควบคุมการตัดสินใจเทียบเท่ามนุษย์
ที่มา: Ars Technica