ผู้นำวิจัย AI จาก OpenAI, Anthropic, Microsoft และ Meta ได้ออกคำเตือนร่วมกันเกี่ยวกับการเกิด “การระเบิดอัจฉริยะ” (intelligence explosion) ที่อาจเกิดขึ้นในอนาคต
คำเตือนนี้เน้นย้ำถึงความจำเป็นในการมีการกำกับดูแลและควบคุมในด้านการวิจัย AI อัตโนมัติเพื่อป้องกันผลกระทบที่ไม่พึงมี
องค์กรเหล่านี้เรียกร้องให้มีการสร้างกรอบนโยบายที่เข้มงวดเพื่อให้มั่นใจว่าการพัฒนา AI มีความสอดคล้องกับคุณค่าของมนุษย์
ศัพท์ที่ควรรู้
- intelligence explosion – การเตือนถึงการเติบโตอย่างรวดเร็วและไม่มีการควบคุมของความสามารถของ AI
- oversight – การมีการกำกับดูแลและตรวจสอบในด้านการวิจัย AI
- automated AI research – การวิจัย AI ที่ดำเนินการโดยอัตโนมัติ
- AI research leaders – ผู้นำวิจัย AI จากองค์กรต่างๆ
ที่มา: Techmeme