AMD ได้นำเทคโนโลยีจาก Mext ที่เข้าซื้อเมื่อเดือนมิถุนายนมาปรับใช้ โดย Gary Smerdon อดีต CEO ซึ่งปัจจุบันเป็น CVP of business development ของ AMD อธิบายว่า เทคโนโลยีนี้ช่วยให้สามารถลดต้นทุนเซิร์ฟเวอร์ระดับองค์กรลงได้มากถึง 83% ด้วยการแทนที่ RDIMMs ราคาแพงด้วยแฟลชสโตร์เรจ
ทุกคนต่างชื่นชอบคำนี้เพื่อกอบกู้สถานการณ์
Smerdon อธิบายว่าโมเดลที่ใช้เป็นอนุพันธ์ของ transformer model เช่นเดียวกับ ChatGPT หรือ Claude แต่แทนที่จะทำนายคำถัดไป โมเดลนี้จะทำนายว่าหน้าหน่วยความจำใดที่จะถูกเรียกใช้ต่อไป ซึ่งเป็นสิ่งที่ช่วยให้การทำงานมีประสิทธิภาพสูง
99 เปอร์เซ็นต์ของประสิทธิภาพ กับ DRAM ครึ่งเดียว
เดิมทีบริษัทมุ่งเป้าไปที่แอปพลิเคชันที่ใช้หน่วยความจำสูง เช่น EDA และการสร้างเนื้อหา แต่ปัจจุบันได้ขยายไปรองรับแอปพลิเคชันที่ไวต่อความหน่วง เช่น ฐานข้อมูล และ Agentic AI pipelines
สำหรับระบบที่ใช้ Linux นั้นต้องการเพียงไดรเวอร์เคอร์เนลในการใช้ประโยชน์จากซอฟต์แวร์นี้ ขณะที่สำหรับองค์กร ทาง AMD ได้นำเสนอแอปพลิเคชัน RAM View เพื่อช่วยให้เข้าใจว่าควรเปิดใช้งานกับระบบและเวิร์กโหลดใดบ้าง ปัจจุบันอยู่ในเฟสแรกของการเปิดตัว Mext โดยร่วมมือกับ OEM อย่าง HPE และเฟสต่อไปคือการเริ่มขายไลเซนส์และจัดส่งแพลตฟอร์ม Epyc พร้อม RAM View มาให้ลูกค้า
ศัพท์ที่ควรรู้
- DRAM – คือหน่วยความจำที่ใช้เก็บข้อมูลชั่วคราวของคอมพิวเตอร์ ซึ่งเป็นส่วนสำคัญในการทำงานของเซิร์ฟเวอร์
- NVMe storage – คืออุปกรณ์จัดเก็บข้อมูลแบบแฟลชที่ให้ความเร็วในการอ่าน/เขียนสูงมาก ซึ่งถูกนำมาใช้แทน DRAM ในบางสถานการณ์
- AI models – คือแบบจำลองปัญญาประดิษฐ์ที่ถูกนำมาใช้ในการคาดการณ์ว่าหน้าหน่วยความจำใดจะถูกต้องการต่อไป
- Transformer derivative model – คือรูปแบบของแบบจำลอง AI ที่มีโครงสร้างคล้ายกับโมเดลภาษาขนาดใหญ่ เช่น ChatGPT
ที่มา: The Register