การร่วมมือกันระหว่าง Marvell Technology และ Penguin Solutions นี้มีเป้าหมายเพื่อทำให้ความฝันของ Celestial AI เกี่ยวกับ High-Bandwidth Memory (HBM) ที่อยู่ระยะไกลกลายเป็นจริง ด้วยการสร้าง Photonic memory fabric ขึ้นมา
ส่วนประกอบของระบบนี้คือ memory expansion module ที่มี HBM3e สองชุด รวม 72 GB พร้อมรองรับ 8 ช่องทาง DDR5 บน silicon photonic interposer ซึ่งให้แบนด์วิดท์แบบสองทิศทางสูงถึง 7.2 Tbps (900 GB/s)
ด้วยการออกแบบของ Marvell ทำให้แต่ละ appliance สามารถรองรับได้สูงสุด 16 เซิร์ฟเวอร์ ไม่ว่าจะผ่าน network interface card หรือโมดูล CPO/NPO ซึ่งคาดว่าจะเข้ามามีบทบาทสำคัญในระบบระดับ Rack ของ Nvidia และ AMD รุ่นต่อไป
ผ่านเลเยอร์ซอฟต์แวร์ที่ Penguin พัฒนา ทำให้แต่ละระบบสามารถเข้าถึงพื้นที่หน่วยความจำที่ใช้ร่วมกันทั้งหมดได้ คล้ายกับการเข้าถึงของระบบที่เชื่อมต่อกับ network-attached storage และการรวมหน่วยความจำนี้ช่วยให้เซิร์ฟเวอร์แต่ละตัวไม่จำเป็นต้องมี DRAM มากเท่าเดิม ซึ่งอาจช่วยประหยัดต้นทุนได้
ศัพท์ที่ควรรู้
- HBM3e – คือหน่วยความจำที่มีแบนด์วิดท์สูง ซึ่งเป็นเทคโนโลยีหน่วยความจำที่ใช้ในระบบประสิทธิภาพสูง
- Photonic memory fabric – คือโครงสร้างหน่วยความจำที่ใช้แสงในการสื่อสาร ทำให้สามารถขยายและเชื่อมต่อหน่วยความจำระยะไกลได้
- Silicon photonic interposer – คือชิ้นส่วนที่ใช้เทคโนโลยีโฟโตนิกซิลิกในการเชื่อมต่อและส่งผ่านสัญญาณระหว่างส่วนประกอบต่างๆ
- CPO/NPO modules – คือโมดูลที่ใช้การเชื่อมต่อแบบ Co-packaged หรือ Near-packaged ซึ่งช่วยให้การเชื่อมต่อทางแสงมีประสิทธิภาพและบำรุงรักษาง่ายขึ้น
ศัพท์ที่ควรรู้
- HBM3e – คือหน่วยความจำที่มีแบนด์วิดท์สูง ซึ่งเป็นเทคโนโลยีหน่วยความจำที่ใช้ในระบบประสิทธิภาพสูง
- Photonic memory fabric – คือโครงสร้างหน่วยความจำที่ใช้แสงในการสื่อสาร ทำให้สามารถขยายและเชื่อมต่อหน่วยความจำระยะไกลได้
- Silicon photonic interposer – คือชิ้นส่วนที่ใช้เทคโนโลยีโฟโตนิกซิลิกในการเชื่อมต่อและส่งผ่านสัญญาณระหว่างส่วนประกอบต่างๆ
- CPO/NPO modules – คือโมดูลที่ใช้การเชื่อมต่อแบบ Co-packaged หรือ Near-packaged ซึ่งช่วยให้การเชื่อมต่อทางแสงมีประสิทธิภาพและบำรุงรักษาง่ายขึ้น
ที่มา: The Register