เมื่อ AI agents ถูกนำไปใช้ในงานวิเคราะห์ข้อมูลหรือสร้างรายงาน การจัดการบริบท (context management) กลายเป็นคอขวดสำคัญ ซึ่งการปรับปรุงสามารถลดการใช้โทเค็นได้มากถึง 95% และลด system prompt ได้ถึง 97%
ซีรีส์โพสต์นี้ได้แนะนำการติดตั้งและใช้งาน agents ในเครือข่ายส่วนตัวบน Amazon Virtual Private Cloud (Amazon VPC) สำหรับการปฏิบัติงานในโลกแห่งความเป็นจริง
การรวมทุก Skill Guide (เช่น การตรวจสอบโครงสร้างข้อมูล, การสร้าง README, การสร้าง Skill, การเขียน system prompt, การสร้างเครื่องมือ) อาจเพิ่มถึง 20K tokens และโหลดข้อมูลที่ไม่จำเป็นเข้าสู่ Coder agent ในทุกการเรียกใช้
เมื่อ Coder ทำการโหลดข้อมูลเสร็จสิ้น Supervisor จะเรียกใช้ Tracker เพื่ออัปเดตสถานะแผนงานจาก [ ] เป็น [x] ตามข้อมูล เช่น “Data load complete (1,000 rows, 5 columns)” ซึ่งช่วยให้ทั้งผู้ใช้และระบบทราบความคืบหน้าอย่างชัดเจน
ชั้นที่ 4 (การตรวจสอบและมาตรการป้องกัน) ประกอบด้วยการคำนวณซ้ำโดย Validator, การตรวจสอบอ้างอิงแบบอ่านอย่างเดียวโดย Auditor, การติดตามความคืบหน้าโดย Tracker, การป้องกันข้อมูลล้นโดย SummarizingConversationManager และการแคช prompt แบบเลือกสรร ซึ่งช่วยจัดการทั้งคุณภาพและต้นทุน
ศัพท์ที่ควรรู้
- AI agents – คือตัวแทนปัญญาประดิษฐ์ที่ทำงานตามคำสั่งที่ได้รับ
- Context management – คือการจัดการข้อมูลบริบทที่จำเป็นเพื่อให้ AI ทำงานได้อย่างถูกต้อง
- Tokens – คือหน่วยย่อยของข้อมูลที่ใช้ในการประมวลผลของโมเดลภาษา
- Amazon VPC – คือบริการของ Amazon ที่ช่วยให้สร้างเครือข่ายส่วนตัวสำหรับใช้งานในระบบคลาวด์
- Skills – คือชุดของความสามารถหรือเครื่องมือเฉพาะที่ AI agent สามารถเรียกใช้ได้
ที่มา: AWS