AgentCore Runtime รุ่นใหม่เป็นค่าเริ่มต้นใน Amazon Bedrock

ตั้งแต่วันนี้เป็นต้นไป runtimes ใหม่ใน Amazon Bedrock AgentCore จะใช้ AgentCore runtime เจเนอเรชันถัดไปเป็นค่าเริ่มต้น ซึ่งสามารถกู้คืนแต่ละเซสชันจากสแน็ปช็อตของเอเจนต์ที่เริ่มต้นไว้ และปรับขนาดการประมวลผลกับหน่วยความจำตามปริมาณงาน

แม้ว่าแต่ละเซสชันจะยังคงทำงานใน Firecracker microVM ที่แยกฮาร์ดแวร์ แต่เอเจนต์ของคุณสามารถทำงานหนัก เช่น การคอมไพล์โค้ดเบสขนาดใหญ่ หรือการขับเคลื่อนเบราว์เซอร์ได้

เซสชันสามารถขยายได้ถึง 8 vCPU และ 32 GB ของหน่วยความจำ โดยรองรับอิมเมจคอนเทนเนอร์สูงสุด 10 GB สำหรับอิมเมจขนาด 2 GB เซสชันจะเริ่มต้นได้ภายในเวลาต่ำกว่า 2 วินาที (P75) ซึ่งเร็วกว่ารุ่นก่อนหน้ามาก นอกจากนี้ เอเจนต์ที่ไม่ได้ใช้งานจะปรับขนาดลงเป็นศูนย์ และสามารถเรียกคืนหน่วยความจำได้ภายในไม่กี่นาที ทำให้ลดค่าใช้จ่ายหน่วยความจำสำหรับเซสชันลงได้สูงสุดถึง 68% สำหรับเอเจนต์แบบหลายเทิร์น

สำหรับ runtimes ที่มีอยู่เดิม จะยังคงใช้เวอร์ชันปัจจุบันจนกว่าคุณจะย้าย หากต้องการอัปเกรดหรือใช้เจเนอเรชันใหม่ในภูมิภาคที่ยังไม่ใช่ค่าเริ่มต้น ให้ตั้งค่า platformVersion เป็น V2 เมื่อสร้างหรืออัปเดต runtimes ส่วน V1 คือการคงเวอร์ชันปัจจุบันไว้

AgentCore Runtime ใหม่นี้เป็นค่าเริ่มต้นในหลายภูมิภาคของ AWS รวมถึง US East (N. Virginia), US East (Ohio), US West (Oregon), และภูมิภาคอื่นๆ ทั่วโลก

ศัพท์ที่ควรรู้

  • AgentCore runtime – คือระบบที่จัดการการทำงานของเอเจนต์ AI ที่ช่วยในการปรับขนาดและจัดการทรัพยากร
  • Snapshot – คือภาพรวมของสถานะเอเจนต์ ณ จุดเริ่มต้น ซึ่งช่วยให้การกู้คืนเซสชันทำได้รวดเร็ว
  • Firecracker microVM – คือสภาพแวดล้อมเสมือนขนาดเล็กที่แยกฮาร์ดแวร์สำหรับแต่ละเซสชัน เพื่อความปลอดภัยและการทำงานที่เสถียร
  • vCPU – คือหน่วยประมวลผลเสมือน (Virtual CPU) ที่กำหนดให้กับเซสชัน

ที่มา: AWS

Leave a Comment