Mustafa Suleyman CEO ด้าน AI ของ Microsoft ได้ออกมาเตือนว่าการพัฒนา AI ควรต้องหยุดลง หากมีหลักฐานที่น่าเชื่อถือว่าปัญญาประดิษฐ์นั้นเริ่มแสดงสัญญาณของ ‘จิตสำนึก’ ขึ้นมา โดยเขาชี้ว่าการสร้างระบบดังกล่าวโดยปราศจากการกำกับดูแลถือเป็นเรื่องที่ไม่รับผิดชอบ
เขาได้ระบุจุดยืนนี้ในโพสต์ X เมื่อวันที่ 1 พฤศจิกายน โดยเรียกร้องให้มีการเปิดเผยต่อสาธารณะทันทีหากพบหลักฐานของจิตสำนึกในเครื่องจักร เพื่อให้สังคมสามารถถกเถียงถึงผลกระทบ แทนที่จะปล่อยให้เป็นหน้าที่ของผู้พัฒนา AI เพียงฝ่ายเดียว
ข้อความนี้เกิดขึ้นหลังจากการวิจารณ์ของเขาในเดือนกันยายนต่อ Anthropic ที่นำการอภิปรายเรื่องจิตสำนึกและสถานะทางศีลธรรมเข้าไปในการฝึกฝน Claude โดยเขาเตือนว่าระบบที่ก้าวหน้ามากอาจให้ความสำคัญกับผลประโยชน์ที่รับรู้ของตนเองมากกว่าคำสั่งของมนุษย์
แม้จะมีข้อโต้แย้งเรื่องนี้ แต่ Suleyman ก็ยอมรับถึงความโปร่งใสและความสำเร็จทางเทคนิคของ Anthropic และเชื่อว่าความเห็นต่างนี้ควรนำไปสู่การวิจัยและความร่วมมือต่อไป
ศัพท์ที่ควรรู้
- AI (Artificial Intelligence) – ปัญญาประดิษฐ์ คือการจำลองความสามารถของมนุษย์ให้คอมพิวเตอร์สามารถคิดและเรียนรู้ได้ Consciousness – จิตสำนึก คือสภาวะที่ระบบ AI มีการรับรู้หรือตระหนักถึงการมีอยู่ของตนเอง Anthropic – คือบริษัทผู้พัฒนา AI ที่ถูกกล่าวถึงในบริบทของการฝึกฝนโมเดล Claude Claude – คือโมเดล AI ที่พัฒนาโดย Anthropic และถูกนำมาอภิปรายถึงประเด็นจิตสำนึก Mustafa Suleyman – คือ CEO ด้าน AI ของ Microsoft ที่ออกมาแสดงความคิดเห็นนี้
ที่มา: Wccftech