ในส่วนที่ 1 เราได้สร้าง Task Agent บน Amazon Bedrock AgentCore ซึ่งเป็นแพลตฟอร์มสำหรับสร้าง เชื่อมต่อ และปรับปรุง Agent ให้รองรับการขยายขนาดด้วยเฟรมเวิร์กหรือโมเดลใดๆ ก็ตาม
สำหรับค่าใช้จ่ายนั้น EKS control plane คิดค่าบริการที่ $0.10 ต่อชั่วโมง บวกกับค่าใช้จ่ายของโหนด และค่าจัดการ Amazon EKS Auto Mode ส่วนคุณสมบัติของ AgentCore คิดตามการใช้งานจริง
การใช้งานโค้ดตัวอย่างนี้มีไว้สำหรับการใช้งานที่ไม่ใช่ Production ดังนั้นทีมของคุณต้องทำงานร่วมกับฝ่ายความปลอดภัยและกฎหมายเพื่อตอบสนองข้อกำหนดด้านความปลอดภัยและการปฏิบัติตามข้อบังคับขององค์กรก่อนนำไปใช้งานจริง
การทำ Trace ทุกการตัดสินใจด้วย AgentCore Observability นั้น การตั้งค่าเริ่มต้นของ ADOT agent mode จะปิดการติดตั้งเครื่องมือสำหรับ HTTP client libraries เช่น requests และ urllib3 ดังนั้นต้องตั้งค่า OTEL_PYTHON_DISABLED_INSTRUMENTATIONS ใน BFF เพื่อยกเลิกค่าเริ่มต้นและให้ Trace context ไปถึง Agent ได้
รูปแบบนี้สามารถประยุกต์ใช้ได้ในองค์กรสตูดิโอ สตรีมมิ่ง หรือเกม ที่มี Agent สำหรับการติดตามโปรดักชัน หรือในภาคบริการทางการเงิน การดูแลสุขภาพ และภาครัฐ ซึ่งต่างก็ใช้ทรัพยากรเบื้องหน้าเดียวกันแต่มีเส้นทางการตรวจสอบที่แตกต่างกัน
ในส่วนต่อไป เราจะกล่าวถึงการวัดผลและการประเมินผล ซึ่ง Span ต่างๆ จะบรรจุ Latency ของโมเดลและเครื่องมือที่อยู่เบื้องหลังทุกการตัดสินใจด้าน Governance และ AgentCore evaluations สามารถให้คะแนนพฤติกรรมของ Agent ตามเกณฑ์ของคุณได้
ศัพท์ที่ควรรู้
- Amazon Bedrock AgentCore – แพลตฟอร์มสำหรับสร้าง เชื่อมต่อ และปรับปรุง Agent ให้รองรับการขยายขนาด
- EKS control plane – ส่วนควบคุมของ EKS ที่มีค่าใช้จ่ายตามชั่วโมงการใช้งาน
- ADOT agent mode – โหมดของ Agent ที่ปิดการติดตั้งเครื่องมือสำหรับ HTTP client libraries โดยค่าเริ่มต้น
- OTEL_PYTHON_DISABLED_INSTRUMENTATIONS – ตัวแปรที่ใช้ในการยกเลิกการติดตั้งเครื่องมือสำหรับ HTTP client ใน BFF
- AgentCore evaluations – ฟีเจอร์ที่ใช้ให้คะแนนพฤติกรรมของ Agent ตามเกณฑ์ที่กำหนด
ที่มา: AWS