ปัจจุบันเรากำลังเปลี่ยนจากการใช้โมเดลที่เก่งในงานเฉพาะ ไปสู่การใช้ Agent ที่รับมือกับเวิร์กโฟลว์ที่ซับซ้อน ซึ่งการสร้าง Agent นั้นมีปัญหาเชิงปฏิบัติ เช่น การจัดเก็บไฟล์กลาง การจัดการ Prompt ที่มีตารางใหญ่ การให้สิทธิ์เข้าถึงเครือข่ายโดยไม่เกิดปัญหาด้านความปลอดภัย หรือการจัดการ Timeout และ Retry โดยไม่ต้องสร้างระบบเวิร์กโฟลว์เอง
เมื่อบริบทเต็ม โมเดลล่าสุดจะถูกฝึกให้วิเคราะห์สถานะการสนทนาก่อนหน้าและสร้าง compaction item ที่เก็บสถานะสำคัญในรูปแบบที่เข้ารหัสและใช้โทเค็นอย่างมีประสิทธิภาพ ทำให้ context window ถัดไปประกอบด้วย compaction item นี้และส่วนที่มีค่าสูงจากหน้าต่างก่อนหน้า
การให้ Container เข้าถึงอินเทอร์เน็ตแบบไม่จำกัดนั้นมีความเสี่ยงสูง เพราะอาจเปิดเผยข้อมูลสู่ภายนอก หรือไปกระทบระบบภายใน/บุคคลที่สามโดยไม่ตั้งใจ ดังนั้นการจัดการจึงต้องรัดกุม
การประกอบส่วนประกอบทั้งหมดเข้าด้วยกันนั้น Responses API ทำหน้าที่เป็น Orchestration, shell tool ให้การดำเนินการที่รันได้, hosted container ให้บริบทการทำงานที่คงอยู่, skills layer สำหรับตรรกะเวิร์กโฟลว์ที่นำกลับมาใช้ใหม่ และ compaction ช่วยให้ Agent ทำงานได้ยาวนานพร้อมบริบทที่ต้องการ
ด้วยองค์ประกอบเหล่านี้ Prompt เดียวสามารถขยายเป็นเวิร์กโฟลว์แบบ end-to-end ได้ ตั้งแต่ค้นหาทักษะที่เหมาะสม ดึงข้อมูล แปลงเป็นสถานะภายใน และสร้าง Artifact ที่คงทน
ที่มา: OpenAI