เมื่อ Codex ต้องทำงาน เช่น การแก้ไขบั๊ก โมเดลจะสแกนโค้ดเบส อ่านเพื่อสร้างบริบท ทำการแก้ไข และรันเทสต์เพื่อยืนยัน ซึ่งในกระบวนการนี้ ส่วนใหญ่ใช้เวลาใน 3 ขั้นตอนหลัก คือ การทำงานใน API services, model inference และ client-side time
เราได้ทำให้ Agent loop เร็วขึ้น 40% โดยการใช้เทคนิคต่างๆ เช่น caching, การกำจัด network hops ที่ไม่จำเป็น, การปรับปรุง safety stack และที่สำคัญคือการสร้างวิธีเชื่อมต่อแบบคงที่กับ Responses API แทนการเรียก API แบบซิงโครนัสหลายครั้ง
การปรับปรุงนี้ส่งผลให้ผู้ใช้ Codex ที่ใช้โมเดลล่าสุด เช่น GPT‑5.3‑Codex และ GPT‑5.4 ได้รับประโยชน์จากความเร็วของ WebSocket ซึ่งไม่เพียงแต่ปรับปรุง latency ของ Agent rollout แต่ยังรองรับความต้องการของผู้สร้างที่ระบบรอบข้างต้องเร็วขึ้นตามไปด้วย
การสร้างการเชื่อมต่อแบบคงที่
เราได้ทบทวนโปรโตคอลการขนส่ง โดยการคงการเชื่อมต่อและการแคชสถานะ แทนการสร้างการเชื่อมต่อใหม่ผ่าน HTTP และส่งประวัติการสนทนาทั้งหมดสำหรับการร้องขอติดตาม
การตั้งมาตรฐานใหม่ด้านความเร็ว
ผลกระทบนี้ปรากฏชัดในชุมชนนักพัฒนา โดยผู้ใช้ Codex ส่วนใหญ่ได้ปรับใช้ WebSockets กับโมเดลล่าสุด ทำให้ได้รับประโยชน์จากความเร็วที่เพิ่มขึ้นอย่างมาก
ศัพท์ที่ควรรู้
- Codex – คือ Agent ที่ใช้ในการทำงาน เช่น การแก้ไขบั๊ก โดยการสแกนและอ่านโค้ดเบสเพื่อสร้างบริบท
- Agent loop – คือกระบวนการทำงานของ Agent ที่ประกอบด้วยหลายขั้นตอน เช่น การประมวลผล การอนุมาน และการทำงานฝั่งไคลเอนต์
- Latency – คือเวลาแฝง หรือความล่าช้าที่เกิดขึ้นในแต่ละขั้นตอนการทำงานของระบบ
- WebSockets – คือโปรโตคอลที่ช่วยให้สามารถรักษาการเชื่อมต่อแบบคงที่ระหว่างไคลเอนต์และเซิร์ฟเวอร์ได้
ที่มา: OpenAI