ทนายความท่านหนึ่งได้นำเสนอการอัปเดตเซิร์ฟเวอร์ AI ส่วนตัวของเขา ซึ่งสร้างขึ้นบนการ์ดจอ Nvidia V100 มือสองจำนวนแปดตัว โดยเขาได้อัปเกรดให้รองรับงานของ DeepSeek V4.1 Flash ในการปฏิบัติงานด้านกฎหมาย
การอัปเกรดครั้งนี้รวมถึงการเพิ่ม RAM เป็น 1TB และการเพิ่มการ์ด RTX 3090 ด้วย แม้ว่าอัตราการสร้างโค้ดจะลดลงจาก 160–215 เป็น 150–180 tokens ต่อวินาที แต่ปัญหาการขัดข้องที่เคยเกิดขึ้นก็หมดไปแล้ว ซึ่งสาเหตุที่แท้จริงน่าจะมาจาก PSU ที่มีปัญหา ไม่ใช่ PCIe ดังที่เคยถูกกล่าวหา
ศัพท์ที่ควรรู้
- Nvidia V100 – การ์ดจอที่ใช้ในเซิร์ฟเวอร์ AI สำหรับการประมวลผลหนัก
- DeepSeek V4.1 Flash – โมเดล AI ที่ถูกนำมาใช้ในการทำงานเฉพาะทางด้านกฎหมาย
- 2-bit to 4-bit NVFP4 precision – ระดับความแม่นยำในการประมวลผลข้อมูลที่ถูกปรับปรุงจากต่ำไปสูง
- 1TB of RAM – หน่วยความจำเข้าถึงโดยสุ่มขนาดใหญ่ที่ติดตั้งเพิ่มให้กับเซิร์ฟเวอร์
ที่มา: Tom’s Hardware