การเปลี่ยนแปลงหลักใน langchain-core==1.7.6 นั้นมาจาก commit #41698 และ #41697 ซึ่งเน้นไปที่การปรับปรุงประสิทธิภาพของระบบ
การปรับปรุงเหล่านี้รวมถึงการรวม AIMessageChunks ที่สตรีมเข้ามาเพียงครั้งเดียวเมื่อสะสมใน runnable streams และการหยุดการพยายาม parse_partial_json ทีละอักขระ
การอัปเดตนี้ช่วยเพิ่มเสถียรภาพและประสิทธิภาพในการทำงานของไลบรารี
ศัพท์ที่ควรรู้
- langchain-core – คือส่วนประกอบหลักของไลบรารีที่ใช้ในการสร้างแอปพลิเคชัน LLM
- perf – ย่อมาจาก Performance หมายถึงประสิทธิภาพในการทำงานของซอฟต์แวร์
- AIMessageChunks – คือส่วนย่อยของข้อความที่สร้างโดยโมเดล AI ซึ่งถูกส่งมาเป็นส่วนๆ
- runnable streams – คือกระแสข้อมูลที่สามารถประมวลผลได้ ซึ่งในที่นี้คือการรับข้อมูลแบบต่อเนื่อง
ที่มา: github.com