METR รายงานว่าพนักงานที่ใช้โมเดลภายในที่มีความสามารถสูงสุดของ Anthropic รายงานว่ามีผลิตภาพเพิ่มขึ้นโดยเฉลี่ยประมาณ 12 เท่า เมื่อเทียบกับการทำงานโดยไม่มีความช่วยเหลือจาก AI ซึ่งเพิ่มขึ้นกว่าสองเท่าจากที่เคยรายงานเมื่อใช้ Mythos 5 เมื่อหลายเดือนก่อน
รายงานระบุว่าการปรับปรุงตนเองแบบวนซ้ำ ซึ่งคือระบบ AI ที่สามารถพัฒนาผู้สืบทอดที่มีประสิทธิภาพมากขึ้นได้อย่างอิสระโดยไม่ต้องการการแทรกแซงของมนุษย์นั้น อาจใกล้ความเป็นจริงมากกว่าที่เคยคาดการณ์ไว้ ซึ่งทำให้เกิดความกังวลว่ามาตรการด้านความปลอดภัยที่มีอยู่จะสามารถตามทันการพัฒนาที่รวดเร็วนี้ได้ทันหรือไม่
Alan Chan จาก GovAI ให้ความเห็นว่าผลการวิจัยนี้ควรทำให้ผู้ที่สงสัยต้องทบทวนมุมมองเกี่ยวกับการเร่งการพัฒนา AI และอาจทำให้กรอบเวลาที่เราจะมีระบบที่ทำงานอัตโนมัติเต็มรูปแบบ เช่น วิศวกรรมซอฟต์แวร์ สั้นลง
ในขณะเดียวกัน Daniel Kokotajlo อดีตนักวิจัย OpenAI ได้วิจารณ์ว่า Anthropic กำลัง ‘เสี่ยงอย่างไม่รับผิดชอบต่อชีวิตของเรา’ และตั้งคำถามถึงการที่บริษัทอ้างถึงผู้อื่นว่าไปเร็วกว่าเพื่อเป็นเหตุผลในการปกปิดข้อมูล
ศัพท์ที่ควรรู้
- Anthropic – บริษัทที่พัฒนาโมเดล AI ที่ถูกกล่าวถึงในรายงาน
- METR – องค์กรที่จัดทำรายงานเกี่ยวกับความเร็วในการพัฒนา AI
- Recursive self-improvement – กระบวนการที่ AI พัฒนาตัวเองให้เก่งขึ้นได้โดยไม่ต้องมีคนมาสั่งการ
- Mythos 5 – โมเดล AI รุ่นก่อนหน้าที่ถูกนำมาเปรียบเทียบในรายงาน
ที่มา: The Verge