Marvell และ Penguin Solutions สร้าง Photonic Memory Fabric สิ้นสุดยุค RAM bottleneck

การร่วมมือกันระหว่าง Marvell Technology และ Penguin Solutions นี้มีเป้าหมายเพื่อทำให้ความฝันของ Celestial AI เกี่ยวกับ High-Bandwidth Memory (HBM) ที่อยู่ระยะไกลกลายเป็นจริง ด้วยการสร้าง Photonic memory fabric ขึ้นมา

ส่วนประกอบของระบบนี้คือ memory expansion module ที่มี HBM3e สองชุด รวม 72 GB พร้อมรองรับ 8 ช่องทาง DDR5 บน silicon photonic interposer ซึ่งให้แบนด์วิดท์แบบสองทิศทางสูงถึง 7.2 Tbps (900 GB/s)

ด้วยการออกแบบของ Marvell ทำให้แต่ละ appliance สามารถรองรับได้สูงสุด 16 เซิร์ฟเวอร์ ไม่ว่าจะผ่าน network interface card หรือโมดูล CPO/NPO ซึ่งคาดว่าจะเข้ามามีบทบาทสำคัญในระบบระดับ Rack ของ Nvidia และ AMD รุ่นต่อไป

ผ่านเลเยอร์ซอฟต์แวร์ที่ Penguin พัฒนา ทำให้แต่ละระบบสามารถเข้าถึงพื้นที่หน่วยความจำที่ใช้ร่วมกันทั้งหมดได้ คล้ายกับการเข้าถึงของระบบที่เชื่อมต่อกับ network-attached storage และการรวมหน่วยความจำนี้ช่วยให้เซิร์ฟเวอร์แต่ละตัวไม่จำเป็นต้องมี DRAM มากเท่าเดิม ซึ่งอาจช่วยประหยัดต้นทุนได้

ศัพท์ที่ควรรู้

  • HBM3e – คือหน่วยความจำที่มีแบนด์วิดท์สูง ซึ่งเป็นเทคโนโลยีหน่วยความจำที่ใช้ในระบบประสิทธิภาพสูง
  • Photonic memory fabric – คือโครงสร้างหน่วยความจำที่ใช้แสงในการสื่อสาร ทำให้สามารถขยายและเชื่อมต่อหน่วยความจำระยะไกลได้
  • Silicon photonic interposer – คือชิ้นส่วนที่ใช้เทคโนโลยีโฟโตนิกซิลิกในการเชื่อมต่อและส่งผ่านสัญญาณระหว่างส่วนประกอบต่างๆ
  • CPO/NPO modules – คือโมดูลที่ใช้การเชื่อมต่อแบบ Co-packaged หรือ Near-packaged ซึ่งช่วยให้การเชื่อมต่อทางแสงมีประสิทธิภาพและบำรุงรักษาง่ายขึ้น

ศัพท์ที่ควรรู้

  • HBM3e – คือหน่วยความจำที่มีแบนด์วิดท์สูง ซึ่งเป็นเทคโนโลยีหน่วยความจำที่ใช้ในระบบประสิทธิภาพสูง
  • Photonic memory fabric – คือโครงสร้างหน่วยความจำที่ใช้แสงในการสื่อสาร ทำให้สามารถขยายและเชื่อมต่อหน่วยความจำระยะไกลได้
  • Silicon photonic interposer – คือชิ้นส่วนที่ใช้เทคโนโลยีโฟโตนิกซิลิกในการเชื่อมต่อและส่งผ่านสัญญาณระหว่างส่วนประกอบต่างๆ
  • CPO/NPO modules – คือโมดูลที่ใช้การเชื่อมต่อแบบ Co-packaged หรือ Near-packaged ซึ่งช่วยให้การเชื่อมต่อทางแสงมีประสิทธิภาพและบำรุงรักษาง่ายขึ้น

ที่มา: The Register

Leave a Comment