AWS เชื่อว่าผู้สร้าง AI ควรสามารถเลือกโมเดลที่เหมาะสมสำหรับทุกงาน เชื่อถือ Agent ของตนในระหว่างการใช้งานจริง และเห็นต้นทุนของ AI Workload ได้อย่างชัดเจน
บน Amazon Bedrock โมเดลอย่าง OpenAI’s Agents’ Last Exam แสดงประสิทธิภาพเทียบเท่า GPT-6 Astra และทำงานเสร็จเร็วกว่าถึงสามเท่า โดยรองรับอินพุตข้อความและภาพสูงสุด 1 ล้านโทเค็น
Amazon Nova 2.5 Sonic โมเดล speech-to-speech ล่าสุด ช่วยเพิ่มความแม่นยำในการให้เหตุผลและการเรียกใช้เครื่องมือ พร้อมด้วย Latency ต่ำในราคาเดียวกับ Amazon Nova 2 Sonic
สำหรับ Agent นั้น สามารถเชื่อมต่อกับเป้าหมายส่วนตัวใน VPC ผ่านใบรับรองจาก Private Certificate Authority และมี Standard tier ใหม่ที่ครอบคลุมการตรวจสอบบริบทในราคาเดียวกับ Classic tier
ผู้ใช้สามารถใช้ AWS Cost Explorer, AWS Budgets และ AWS Cost Management Dashboards เพื่อแยกย่อยต้นทุน Amazon Bedrock ตามโมเดล ผู้ให้บริการ และประเภทการอนุมาน โดยไม่มีค่าใช้จ่ายเพิ่มเติม
Strands Evals ช่วยให้ทดสอบ Agent ด้วยการจำลองการโจมตี เช่น prompt injection และ jailbreak และการปรับใช้ Decider ช่วยลดต้นทุนต่อตั๋วลงได้ถึง 98 เปอร์เซ็นต์
ศัพท์ที่ควรรู้
- Amazon Bedrock – บริการของ AWS ที่เป็นแพลตฟอร์มสำหรับสร้างและรันโมเดล AI ต่างๆ
- GPT-6 Astra – โมเดล AI ที่ใช้ในการประเมินประสิทธิภาพของ Agent
- Amazon Nova 2.5 Sonic – โมเดล speech-to-speech ล่าสุดของ AWS ที่ช่วยในการให้เหตุผล
- VPC – Virtual Private Cloud คือสภาพแวดล้อมคลาวด์ส่วนตัวที่ผู้ใช้สร้างขึ้น
- Strands Evals – เครื่องมือที่ใช้จำลองการโจมตีเพื่อทดสอบ Agent ของผู้ใช้
ที่มา: AWS