Anthropic ได้เปิดตัวการโรดโชว์ IPO และวิดีโอที่เผยแพร่ออกมานั้นมีข้อมูลที่ยังไม่เคยเปิดเผยมาก่อนเกี่ยวกับวิธีการทำงานของบริษัท
ในส่วน ‘Approach to compute’ ซึ่งนำเสนอโดย Tom Brown ได้อธิบายว่าพวกเขาฝึกและให้บริการ Claude บนชิปชั้นนำทั้งสี่กลุ่ม ได้แก่ AWS Trainium, Google TPUs, NVIDIA GPUs และ AMD GPUs
การที่สามารถทำเช่นนี้ได้นั้นมาจากเดิมที่พวกเขาตัดสินใจเดิมพันกับกลยุทธ์แบบ Multi-chip ตั้งแต่เนิ่นๆ ซึ่งแตกต่างจากที่คนส่วนใหญ่คิดในตอนนั้นว่าการรัน AI บนชิปต่างกันนั้นไม่คุ้มค่า
ปัจจุบัน พวกเขาได้พัฒนาจนเชี่ยวชาญในการสร้าง Software stack และ Inference stack ที่ปรับให้เหมาะกับแต่ละชิป และล่าสุด พวกเขาได้ทำงานกับ AMD GPUs เป็นครั้งแรก โดยใช้ Mythos ทำให้ Claude รันบน AMD ได้ภายในสามวันโดยแทบไม่มีการแทรกแซงจากมนุษย์
พวกเขาเน้นที่ Total effective compute ซึ่งคือผลคูณของ Physical capacity กับ Compute multipliers ที่ค้นพบ ซึ่งสามารถนำไปสู่การฝึกโมเดลที่ฉลาดขึ้นโดยใช้ทรัพยากรน้อยลง และเชื่อว่าสิ่งนี้จะเร่งตัวขึ้นเมื่อเข้าใกล้การปรับปรุงตนเองแบบวนซ้ำ (recursive self-improvement)
ศัพท์ที่ควรรู้
- IPO roadshow – การนำเสนอต่อสาธารณชนเพื่อระดมทุนก่อนการเข้าตลาดหลักทรัพย์
- Claude – คือโมเดล AI ที่ Anthropic พัฒนาและให้บริการ
- AWS Trainium, Google TPUs, NVIDIA GPUs, AMD GPUs – คือชิปประมวลผลหลักที่ใช้ในการฝึกและให้บริการโมเดล AI
- Multi-chip strategy – กลยุทธ์การใช้ชิปประมวลผลหลายชนิดร่วมกันเพื่อเพิ่มประสิทธิภาพ
- Total effective compute – การคำนวณกำลังการประมวลผลที่มีประสิทธิภาพทั้งหมดที่เกิดขึ้นจากการทำงานร่วมกันของระบบ
ที่มา: simonwillison.net