Anthropic เปิดขายหุ้น IPO วันนี้ ถือเป็นการระดมทุนครั้งใหญ่ที่สุดในประวัติศาสตร์ ระดมได้ 8.13 หมื่นล้านดอลลาร์ แซง SpaceX และเป็นแบบอย่างให้แล็บ AI อื่นที่เตรียมเข้าตลาดตามมา
โครงสร้างการกำกับดูแลใช้ทรัสต์ LTBT ซึ่งไม่มีผลประโยชน์ทางการเงินในบริษัท จึงอาจใช้สิทธิ์กับกรรมการ 3 ใน 4 เสียง เพื่อคุมให้บริษัทยึดพันธกิจเดิม ตามความเห็นของ Ann Lipton ศาสตราจารย์กฎหมาย University of Colorado Law School ผู้เชี่ยวชาญด้านบรรษัทภิบาล
กรรมการ LTBT 4 คนที่เปิดเผยชื่อไม่ใช่ผู้เชี่ยวชาญ AI ได้แก่ Ben Bernanke อดีตประธาน Fed, Richard Fontaine นักวิเคราะห์นโยบายต่างประเทศ, Christopher Stubbs นักฟิสิกส์ทดลอง และ Neil Buddy Shah อดีตผู้บริหาร GiveWell ซึ่งเป็นประธาน LTBT โครงสร้างจึงคล้ายบริษัทที่ผู้ก่อตั้งคุมอำนาจแบบ Meta ของ Mark Zuckerberg และ SpaceX ของ Elon Musk
ด้านความปลอดภัย หัวหน้าฝ่ายวิจัย safeguards ลาออกในเดือน ก.พ. กล่าวว่า “โลกกำลังตกอยู่ในอันตราย” ขณะที่ Jacob Coxon ระบุในเดือน ก.ย. ว่า Anthropic และ OpenAI กำลังแข่งกันสร้าง superintelligence ที่พัฒนาตัวเองได้ และเดิมพันด้วยชีวิตของเรา นักวิจัยความปลอดภัยอีกรายย้ายไป METR ในเดือนเดียวกัน เขียนว่าบริษัท AI กำลังสร้างความเสี่ยงที่ไม่เคยมีมาก่อน และที่ Anthropic ยังไม่มีเหตุรุนแรงเท่าการโจมตี HuggingFace โดยเอเจนต์ของ OpenAI ก็ส่วนหนึ่งเป็นเพราะโชค
วันพุธ Center for AI Safety แถลงโดยมีผู้ลงนามจาก Hugging Face และ Harvard University กล่าวหา Anthropic ว่า “ไม่ใช่บริษัท AI ที่ปลอดภัย” และพยายาม “สะสมอำนาจในนามของประโยชน์ส่วนรวม” พร้อมระบุว่า Anthropic เตือนว่า AI ที่พัฒนาตัวเองแบบเรียกซ้ำอาจรวมอำนาจและหลุดจากการควบคุมของมนุษย์ แต่กลับเร่งสร้างมันขึ้นมาก่อน
ศัพท์ที่ควรรู้
- IPO – การเสนอขายหุ้นครั้งแรกต่อสาธารณะ เมื่อบริษัทเข้าตลาดหลักทรัพย์เพื่อระดมทุนจากนักลงทุนทั่วไป
- Long-Term Benefit Trust (LTBT) – ทรัสต์ที่ถือสิทธิ์ออกเสียงพิเศษในบริษัท ตั้งขึ้นเพื่อถ่วงดุลไม่ให้ผู้บริหารละทิ้งพันธกิจระยะยาว
- Corporate governance – บรรษัทภิบาล คือระบบกฎเกณฑ์และกลไกตรวจสอบว่าบริษัทถูกบริหารอย่างโปร่งใสและรับผิดชอบ
- Superintelligence – ปัญญาประดิษฐ์ที่ฉลาดเกินมนุษย์ในทุกด้าน ซึ่งยังไม่มีจริงในปัจจุบัน
- Recursive self-improvement – การที่ AI ปรับปรุงโค้ดของตัวเองซ้ำ ๆ จนความสามารถเพิ่มขึ้นเร็วเกินกว่ามนุษย์จะควบคุม
ที่มา: The Verge