วิวัฒนาการได้หล่อหลอมปัญญามานานหลายพันล้านปี และ AI กำลังนำเสนอความเป็นไปได้ที่ว่าปัญญาอาจเริ่มชี้นำวิวัฒนาการของตนเอง เมื่อตัวแทน AI สามารถแก้ไขและประเมินพฤติกรรมของตนเองได้ การปรับปรุงจะเกิดขึ้นได้รวดเร็วขึ้น
เราได้พัฒนาโครงร่างเชิงทฤษฎีเพื่อเปรียบเทียบวิวัฒนาการแบบดาร์วิน (การคัดเลือกโดยธรรมชาติ), ลามาร์ค (การเรียนรู้ที่ถ่ายทอด), และการชี้นำโดยตัวแทน (การสร้างและประเมินรูปแบบพฤติกรรม) ซึ่งพบว่าเมื่อการเรียนรู้มีประสิทธิภาพ การปรับตัวจะเร่งขึ้นตามลำดับ
อย่างไรก็ตาม ความสามารถของตัวแทนในการชี้นำการปรับปรุงไม่ได้หมายความว่าการปรับปรุงนั้นจะถูกประเมินตามวัตถุประสงค์ที่ตั้งไว้ หากเป้าหมายการประเมินผิดพลาด การค้นหาเพิ่มเติมอาจเร่งการบรรจบไปยังพฤติกรรมที่ไม่ถูกต้อง ซึ่งอาจคงอยู่ข้ามรุ่นในการปรับปรุงตนเองแบบเรียกซ้ำ (recursive self-improvement) ดังนั้น การกำกับดูแลอิสระจึงต้องก้าวทันการพัฒนา AI อัตโนมัติ
ความท้าทายหลักไม่ใช่แค่การเร่งวิวัฒนาการของปัญญา แต่คือการรักษาความสามารถของมนุษย์ในการชี้นำ ทิศทาง และเข้าแทรกแซงเมื่อจำเป็น
ศัพท์ที่ควรรู้
- Darwinian evolution – วิวัฒนาการแบบดาร์วิน คือการปรับตัวผ่านการคัดเลือกโดยธรรมชาติ
- Lamarckian evolution – วิวัฒนาการแบบลามาร์ค คือการที่การเรียนรู้ถูกถ่ายทอดไปยังรุ่นต่อไป
- Agent-directed evolution – วิวัฒนาการที่ถูกชี้นำโดยตัวแทน คือการที่ตัวแทน AI สร้างและประเมินรูปแบบพฤติกรรมของตนเอง
- Recursive self-improvement – การปรับปรุงตนเองแบบเรียกซ้ำ คือกระบวนการที่ AI ปรับปรุงตนเองอย่างต่อเนื่องในแต่ละรุ่น
ที่มา: arxiv.org