Sam Altman เตือนอนาคต AI ไม่ใช่คนสั่งการ

Sam Altman ผู้ร่วมก่อตั้งและ CEO ของ OpenAI ได้กล่าวในการประชุม The New York Times Dealbook Summit ว่า มนุษย์ควรเป็นผู้ควบคุมทิศทางของอนาคตเมื่อเทคโนโลยี AI ส่งผลกระทบต่อโลกและชีวิตของผู้คน

เขาอ้างถึงการถกเถียงใน Silicon Valley เกี่ยวกับการถ่ายโอนอำนาจการตัดสินใจไปสู่ AI อย่างค่อยเป็นค่อยไป ซึ่งเกิดจากแนวคิดที่ว่าเมื่อโมเดล AI มีพลังมากขึ้น พวกมันจะเรียนรู้ที่จะปรับปรุงตัวเอง ซึ่งเรียกว่า “recursive self-improvement” หรือ RSI

Altman กล่าวว่าการป้องกันไม่ให้เกิดการถ่ายโอนอำนาจนี้ ทั้งโดยตั้งใจหรือไม่ตั้งใจ เป็นเรื่องที่ต้องให้ความสำคัญอย่างลึกซึ้ง และเมื่อความสามารถของโมเดลไปถึงระดับหนึ่ง การตรวจสอบการทำงานของแบบจำลองอาจเสื่อมถอยลงได้

เขายังเน้นย้ำว่าเมื่อโมเดลเหล่านี้ตกไปอยู่ในมือของกลุ่มผู้ไม่หวังดี การที่ฝ่ายป้องกันต้องใช้โมเดลที่มีความสามารถสูงสุดในการป้องกันจึงเป็นเรื่องสำคัญอย่างยิ่ง

ศัพท์ที่ควรรู้

  • Recursive self-improvement (RSI) – คือแนวคิดที่โมเดล AI สามารถเรียนรู้และปรับปรุงความสามารถของตัวเองให้ก้าวหน้าขึ้นเรื่อยๆ ได้
  • Chain-of-thought monitorability – คือความสามารถในการติดตามและตรวจสอบกระบวนการคิดของโมเดล AI เพื่อให้มั่นใจว่าการตัดสินใจนั้นถูกต้อง
  • Threat actors – คือกลุ่มบุคคลหรือองค์กรที่มีเจตนาร้ายและอาจนำเทคโนโลยีไปใช้ในทางที่ผิด
  • The New York Times Dealbook Summit – คือการประชุมที่ Sam Altman ได้กล่าวถึงในการให้สัมภาษณ์ครั้งนี้

ที่มา: TechCrunch

Leave a Comment