ตามรายงานของ Wall Street Journal พนักงานที่อยู่กับ Anthropic มานานที่สุดหลายคน กำลังพิจารณาซื้อที่ดินในพื้นที่ห่างไกลของสหรัฐอเมริกา เพื่อเป็นสถานที่หลบภัย “หาก AI พัฒนาถึงขั้นควบคุมไม่ได้” แนวคิดนี้สะท้อนวัฒนธรรมภายในบริษัทที่เชื่อมโยงกับเครือข่าย “นักทำนายวันสิ้นโลก” (doomers) ในพื้นที่ Bay Area
เครือข่ายนี้รวมกลุ่มคนที่เชื่อมโยงกับการเคลื่อนไหว Effective Altruism (EA) และใช้เวลามากกว่าหนึ่งทศวรรษในการจำลองสถานการณ์วันสิ้นโลกจาก AI อิลิเซอร์ ยูดคอว์สกี (Eliezer Yudkowsky) ถือเป็นบิดาปัญญาของวัฒนธรรมนี้ ซึ่งก่อน AI กลายเป็นหัวข้อหลัก กลุ่มเคยมุ่งเน้นความเสี่ยงจากดาวหางชนโลกหรือซุปเปอร์ภูเขาไฟ
พนักงานเก่าบอกว่า แม้ในช่วงเริ่มต้นของ Anthropic การพูดคุยขณะรับประทานอาหารเย็นก็เคยเกี่ยวกับสถานการณ์แบบ Manhattan Project ที่อาจต้องย้ายไปสร้าง AI ในสถานที่ของรัฐบาลที่มีการป้องกันคลื่นแม่เหล็กไฟฟ้า
ศัพท์ที่ควรรู้
- Anthropic – บริษัทสตาร์ทอัพ AI ที่ก่อตั้งโดยพนักงานเก่าของ OpenAI เน้นความปลอดภัยของ AI
- Effective Altruism (EA) – ปรัชญาที่เน้นการใช้เหตุผลและหลักฐานเพื่อช่วยผู้อื่นให้ได้ผลมากที่สุด
- Doomers – กลุ่มคนที่เชื่อว่า AI อาจนำมาสู่ภัยพิบัติหรือวันสิ้นโลก
- Manhattan Project – โครงการลับของสหรัฐฯ ในสงครามโลกครั้งที่ 2 ที่พัฒนาอาวุธนิวเคลียร์ ใช้เปรียบเทียบสถานการณ์ AI ที่ต้องพัฒนาในความลับ
- Eliezer Yudkowsky – นักวิจัย AI และนักปรัชญาที่เตือนภัยเรื่อง AI ที่ควบคุมไม่ได้มาตั้งแต่ช่วงกลางทศวรรษ 2000
ที่มา: The Decoder