การวัดการใช้งานสำหรับ Bidirectional Streaming ได้เข้ามาแก้ไขปัญหาการเรียกเก็บเงินซอฟต์แวร์สำหรับ AI ด้านเสียงแบบเรียลไทม์ โดย Deepgram ได้เสริมการรองรับ Amazon SageMaker AI ด้วยการมอบหมายชั่วคราวผ่าน AWS IAM และการขยายการสังเกตการณ์ด้วยเมตริกที่เพิ่มขึ้น ทำให้การเรียกเก็บเงินสอดคล้องกับการบริโภค AI แบบสตรีมมิ่งและเรียลไทม์ของลูกค้า
หากคุณติดตั้งโมเดล AI แบบเรียลไทม์สำหรับบริการต่างๆ เช่น การถอดเสียง ศูนย์บริการลูกค้า หรือการบรรยาย การวัดการใช้งานใหม่นี้จะเปลี่ยนวิธีการคำนวณค่าบริการซอฟต์แวร์ใน AWS Marketplace
ทำไมการสตรีมถึงทำให้รูปแบบการเรียกเก็บเงินเดิมใช้ไม่ได้
ควรส่งบันทึกด้วยความถี่ที่ตรงกับรูปแบบการเรียกเก็บเงิน ซึ่งแนะนำให้เพิ่มขึ้นตามการใช้งาน หรือเป็นชุดข้อมูลเป็นระยะตามบันทึกก่อนหน้า
สิ่งนี้หมายถึงอะไรสำหรับลูกค้า
หากคุณต้องการติดตั้งโมเดล AI แบบเรียลไทม์ คุณต้องสร้าง SageMaker AI model package จากคอนเทนเนอร์ของคุณใน Region ที่รองรับ พร้อมบทบาท IAM ที่อนุญาตให้ AWS Marketplace เข้าถึงได้ และต้องตรวจสอบการเรียกเก็บเงินก่อนเผยแพร่โดยใช้เมตริก เช่น USE1-SMMP:inference.count.m.i.c
การรับรอง
ขอขอบคุณ Kareem Syed-Mohammed, Susmitha Marupaka, Zhengfei Ji และ EJ Ferrell สำหรับการตรวจสอบและนำการพัฒนาความสามารถนี้
ที่มา: AWS