Amazon Elastic Compute Cloud (Amazon EC2) G7 instances ซึ่งใช้ GPU NVIDIA RTX PRO 4500 Blackwell Server Edition พร้อมให้บริการแล้วในภูมิภาคเพิ่มเติม ได้แก่ ยุโรป (London), เอเชียแปซิฟิก (Mumbai, Sydney) และอเมริกาใต้ (Sao Paulo)
G7 instances นี้ให้ประสิทธิภาพ AI inference สูงสุดถึง 4.6 เท่า และประสิทธิภาพกราฟิกสูงสุด 2.1 เท่าเมื่อเทียบกับ G6 instances นอกจากนี้ยังให้ประสิทธิภาพที่รวดเร็วกว่าสำหรับเวิร์กโหลดด้านการวิเคราะห์ข้อมูลที่เร่งด้วย GPU
ลูกค้าสามารถใช้ G7 instances สำหรับการปรับใช้โมเดล AI สำหรับงานแปลภาษา, การวิเคราะห์วิดีโอและภาพ, การรู้จำเสียง และระบบแนะนำ นอกจากนี้ยังเร่งงานกราฟิก เช่น การสร้างและเรนเดอร์กราฟิกคุณภาพระดับภาพยนตร์ และการสตรีมเกม
G7 instances มีสูงสุด 8 ตัวของ NVIDIA RTX PRO 4500 พร้อมหน่วยความจำ 32 GB ต่อ GPU และโปรเซสเซอร์ Intel Xeon 6 รองรับสูงสุด 192 vCPUs และแบนด์วิดท์เครือข่าย EFA สูงสุด 700 Gbps รวมถึงรองรับสูงสุด 768 GiB ของระบบหน่วยความจำ และพื้นที่เก็บข้อมูล NVMe SSD ในเครื่องสูงสุด 7.6 TB
G7 instances สามารถใช้งานได้ในภูมิภาค AWS ดังต่อไปนี้: US West (Oregon), US East (N. Virginia, Ohio), Europe (London, Spain, Frankfurt, Stockholm), Asia Pacific (Mumbai, Sydney) และ South America (Sao Paulo) และสามารถซื้อได้ในรูปแบบ On-Demand, Spot หรือเป็นส่วนหนึ่งของ Savings Plans
ศัพท์ที่ควรรู้
- Amazon EC2 G7 instances – คืออินสแตนซ์ของ Amazon EC2 รุ่น G7 ที่ขับเคลื่อนด้วย GPU ใหม่ล่าสุด
- NVIDIA RTX PRO 4500 Blackwell Server Edition GPUs – คือหน่วยประมวลผลกราฟิกเฉพาะทางที่ใช้ใน G7 instances
- AI inference performance – คือประสิทธิภาพในการอนุมานของแบบจำลอง AI ซึ่งหมายถึงการนำโมเดลไปใช้งานจริง
- vCPUs – คือหน่วยประมวลผลเสมือน (virtual CPUs) ที่อินสแตนซ์รองรับ
- EFA networking bandwidth – คือแบนด์วิดท์เครือข่าย Elastic Fabric Adapter ที่ช่วยในการสื่อสารระหว่างเซิร์ฟเวอร์
ที่มา: AWS