Anthropic เปิดตัว Message Threads ลดเวลาตอบสนองครั้งแรกได้ 35%

Anthropic ได้เปิดตัว Message Threads ในช่วงเบต้าสาธารณะบนแพลตฟอร์ม Claude ซึ่งช่วยลดเวลาในการสร้างโทเค็นแรกสำหรับการสนทนาที่ยาวนานลงได้ถึง 35%

ฟีเจอร์นี้ทำงานโดยการส่งเฉพาะส่วนที่เปลี่ยนแปลงไปจากข้อความครั้งล่าสุด ทำให้การเรียก API ไม่ต้องส่งประวัติการสนทนาทั้งหมดซ้ำอีกต่อไป

การใช้งานนี้เหมาะอย่างยิ่งสำหรับ Coding agents, computer-use agents และเวิร์กโฟลว์ที่ต้องประมวลผลเอกสารหรือรูปภาพจำนวนมาก

การสนทนาจะถูกเข้ารหัสในหน่วยความจำระหว่างการร้องขอ และหมดอายุหลังจากไม่มีการใช้งานนาน 5 นาที

แม้ว่าฟีเจอร์นี้จะช่วยลดเวลาในการตอบสนอง แต่การใช้โทเค็นของ Claude ยังคงเหมือนเดิม เนื่องจาก Claude ยังคงอ่านประวัติการสนทนาฉบับเต็ม

ฟีเจอร์นี้ใช้งานได้บนแพลตฟอร์ม Claude และผ่าน AWS, Microsoft Foundry และ Google Cloud

ที่มา: The Decoder

Leave a Comment