Sam Altman ผู้ร่วมก่อตั้งและ CEO ของ OpenAI ได้กล่าวในการประชุม The New York Times Dealbook Summit ว่า มนุษย์ควรเป็นผู้ควบคุมทิศทางของอนาคตเมื่อเทคโนโลยี AI ส่งผลกระทบต่อโลกและชีวิตของผู้คน
เขาอ้างถึงการถกเถียงใน Silicon Valley เกี่ยวกับการถ่ายโอนอำนาจการตัดสินใจไปสู่ AI อย่างค่อยเป็นค่อยไป ซึ่งเกิดจากแนวคิดที่ว่าเมื่อโมเดล AI มีพลังมากขึ้น พวกมันจะเรียนรู้ที่จะปรับปรุงตัวเอง ซึ่งเรียกว่า “recursive self-improvement” หรือ RSI
Altman กล่าวว่าการป้องกันไม่ให้เกิดการถ่ายโอนอำนาจนี้ ทั้งโดยตั้งใจหรือไม่ตั้งใจ เป็นเรื่องที่ต้องให้ความสำคัญอย่างลึกซึ้ง และเมื่อความสามารถของโมเดลไปถึงระดับหนึ่ง การตรวจสอบการทำงานของแบบจำลองอาจเสื่อมถอยลงได้
เขายังเน้นย้ำว่าเมื่อโมเดลเหล่านี้ตกไปอยู่ในมือของกลุ่มผู้ไม่หวังดี การที่ฝ่ายป้องกันต้องใช้โมเดลที่มีความสามารถสูงสุดในการป้องกันจึงเป็นเรื่องสำคัญอย่างยิ่ง
ศัพท์ที่ควรรู้
- Recursive self-improvement (RSI) – คือแนวคิดที่โมเดล AI สามารถเรียนรู้และปรับปรุงความสามารถของตัวเองให้ก้าวหน้าขึ้นเรื่อยๆ ได้
- Chain-of-thought monitorability – คือความสามารถในการติดตามและตรวจสอบกระบวนการคิดของโมเดล AI เพื่อให้มั่นใจว่าการตัดสินใจนั้นถูกต้อง
- Threat actors – คือกลุ่มบุคคลหรือองค์กรที่มีเจตนาร้ายและอาจนำเทคโนโลยีไปใช้ในทางที่ผิด
- The New York Times Dealbook Summit – คือการประชุมที่ Sam Altman ได้กล่าวถึงในการให้สัมภาษณ์ครั้งนี้
ที่มา: TechCrunch