พนักงานของ Grok Build ได้รายงานผลการทดสอบ CursorBench โดยระบุว่าการใช้ความพยายามระดับกลางมีค่าใช้จ่าย $3.49 ต่อภารกิจ ในขณะที่ระดับสูงอยู่ที่ $4.69 ต่อภารกิจ ซึ่งเป็นข้อมูลที่อ้างถึงโดยพนักงาน ไม่ใช่ผลที่ทำซ้ำได้ด้วยตนเอง
ในส่วนของ Astra Ultrafast นั้น OpenAI ระบุราคาสำหรับอินพุต/เอาต์พุตบริบทสั้นที่ $60/$300 ต่อล้านโทเค็น และสำหรับบริบทยาวที่ $120/$450 โดยมีอัตราสำหรับ cache read และ write แยกต่างหาก
xAI แนะนำให้แทนที่ประวัติการสนทนาด้วยสถานะที่ไม่เปิดเผย เพื่อจัดการกับข้อจำกัดของบริบท และต้องมีการพิสูจน์เรื่องการนำแคชกลับมาใช้ใหม่ด้วยเช่นกัน
สำหรับการตัดสินใจซื้อ ผู้ใช้ควรประเมินเส้นทางการส่งมอบทั้งหมด เนื่องจากแต่ละแพลตฟอร์ม เช่น AWS Bedrock หรือ GitHub Copilot มีการกำหนดค่าเริ่มต้น การสมัครสมาชิก และเศรษฐศาสตร์ในแต่ละภูมิภาคที่แตกต่างกัน
สำหรับ API โดยตรง xAI จะบันทึกจำนวนเงินที่เรียกเก็บในรูปแบบ usage.cost_in_usd_ticks สำหรับแต่ละคำขอ ซึ่งต้องนำมารวมกันตลอดภารกิจ ไม่ใช่แค่การตอบกลับครั้งสุดท้าย
ศัพท์ที่ควรรู้
- Grok Build – คือทีมงานที่เกี่ยวข้องกับ Grok ที่ให้ข้อมูลเกี่ยวกับค่าใช้จ่ายและการทดสอบ
- CursorBench – คือการทดสอบที่ใช้ในการเปรียบเทียบประสิทธิภาพและค่าใช้จ่ายของโมเดล
- Astra Ultrafast – คือระดับบริการของ OpenAI ที่ให้บริการด้วยความเร็วสูงและมีราคาต่อโทเค็น
- Context – หมายถึงขอบเขตของข้อมูลที่โมเดลสามารถรับรู้และประมวลผลได้ในการตอบสนองแต่ละครั้ง
- API – คือชุดโปรแกรมที่ช่วยให้แอปพลิเคชันต่างๆ สามารถสื่อสารและเรียกใช้บริการของโมเดลได้
ที่มา: LLM Rumors