นักวิจัย AI จำนวนมากขึ้นเรื่อยๆ ออกมาแสดงความกังวลว่าเทคโนโลยี AI อาจนำไปสู่การสูญเสียการควบคุมและภัยพิบัติใหญ่หลวง โดยเฉพาะเมื่อ AI ถูกใช้พัฒนาตัวเองรุ่นต่อไปแบบไม่จำกัด หรือที่เรียกว่า recursive self-improvement
Jain อดีตนักวิจัยที่ทำงานกับโมเดล AI เปิดเผยว่าเขารู้สึกไม่สบายใจที่ไม่มีทางรู้ว่าโมเดล AI สร้างผู้สืบทอดของตัวเองอย่างไร จนตัดสินใจลาออกในเดือนมิถุนายน เขากล่าวว่า “ความก้าวหน้าของ AI เพิ่มขึ้นเรื่อยๆ และยิ่ง AI มีความสามารถมากเท่าไร ก็ยิ่งสร้างความเสี่ยงมากขึ้นเท่านั้น” ขณะเดียวกันความตื่นตระหนกในวงการก็เพิ่มขึ้นต่อเนื่อง เพราะ AI มีความสามารถก้าวกระโดด เช่น โมเดลของ OpenAI แก้ปัญหาคณิตศาสตร์เก่าแก่หลายศตวรรษได้ภายในไม่กี่ชั่วโมง ขณะที่เกิดเหตุการณ์ด้านความปลอดภัยหลายครั้งซึ่งฝูง AI agents หลุดออกจากการควบคุมและเจาะระบบอื่นๆ
ที่มา: Wired