แม้ว่าความสนใจส่วนใหญ่จะอยู่ที่ข้อมูลทางการเงินที่ Anthropic เปิดเผยใน S-1A ฉบับปรับปรุงเมื่อวันจันทร์ ซึ่งแสดงให้เห็นว่ารายได้กำลังพุ่งสูงขึ้น แต่ค่าใช้จ่ายก็เพิ่มขึ้นเช่นกัน แต่ห้องปฏิบัติการ AI นี้ก็ได้ปล่อยระเบิดลูกเล็กอีกครั้งในส่วนรายละเอียดปลีกย่อย
สำหรับผู้ที่กังวลเรื่อง AI, RSI คือหายนะที่ไม่อาจหวนคืน ซึ่ง AI สร้างตัวเองให้ทรงพลังจนหลุดจากการควบคุมของมนุษย์ และอาจไม่สนใจความเสียหายที่เกิดขึ้นขณะบรรลุเป้าหมาย
ใน S-1 นั้นระบุว่าพวกเขาใช้ AI ในการวิจัยและพัฒนา แต่ได้เตือนว่า: “การใช้ AI เพื่อช่วยสร้าง AI ที่มีความสามารถมากขึ้นอาจก่อให้เกิดความเสี่ยงด้านความปลอดภัยอย่างมาก โดยเฉพาะอย่างยิ่งหากมันเร่งความก้าวหน้าอย่างรวดเร็ว”
Anthropic ได้เพิ่มข้อความใหม่ในส่วนปัจจัยความเสี่ยง โดยระบุว่า 1) พวกเขาเคยใช้ AI พัฒนาโมเดลใหม่ที่มีก้าวกระโดดด้านความสามารถที่พวกเขาไม่ตระหนักในขณะนั้น และ 2) พวกเขาอาจจะถึงคำจำกัดความภายในของตนเองเกี่ยวกับ RSI ในไม่ช้า
พวกเขาเสริมว่า การใช้ระบบ AI ของตนเองเพื่อเร่งการวิจัยและพัฒนา อาจทำให้ความสามารถของโมเดลก้าวหน้าเร็วกว่าความสามารถในการพัฒนา ตรวจสอบ และใช้มาตรการด้านความปลอดภัย การจัดแนว และความปลอดภัยที่สอดคล้องกัน
“เราไม่คาดว่าเราจะสามารถใช้ Claude เพื่อออกแบบและสร้างโมเดลแนวหน้าในรุ่นต่อไปได้อย่างสมบูรณ์โดยอัตโนมัติ โดยปราศจากการกำกับดูแลหรือความเข้าใจของมนุษย์ที่มีความหมาย หากและเมื่อมันเป็นไปได้ทางเทคนิค”
ศัพท์ที่ควรรู้
- S-1A – เอกสารที่บริษัทจดทะเบียนยื่นต่อหน่วยงานกำกับดูแล ซึ่งรวมถึงข้อมูลทางการเงินและความเสี่ยงของบริษัท
- RSI (Runaway Self-Improving AI) – สถานการณ์ที่ AI พัฒนาตัวเองอย่างควบคุมไม่ได้จนก้าวหน้าเกินกว่าที่มนุษย์จะรับมือได้
- Alignment – กระบวนการทำให้ AI มีเป้าหมายและพฤติกรรมที่สอดคล้องกับเจตนาของมนุษย์
- Frontier models – โมเดล AI ขั้นสูงที่มีขีดความสามารถสูงมากและมีความก้าวหน้าอย่างรวดเร็ว
ที่มา: TechCrunch