Google เปิดตัว Tool Retrieval ใน Gemini API ลดทอเค็นและเพิ่มประสิทธิภาพเอเจนต์

Google เปิดตัว Tool Retrieval ใน Gemini Interactions API แบบพรีวิวเมื่อวันที่ 19 พ.ย. 2569 โดย Lucia Loher ผู้จัดการผลิตภัณฑ์ Gemini API และ Nora Kassner นักวิจัย Google DeepMind

ฟีเจอร์นี้อนุญาตให้นักพัฒนาตั้งค่า defer_loading: true สำหรับฟังก์ชันที่ใช้บ่อยน้อย ทำให้โมเดลค้นหาและโหลดสคีม่าเฉพาะเครื่องมือที่เกี่ยวข้องผ่าน tool_search_call แทนการส่งไลบรารีเครื่องมือทั้งหมดในทุกพรอมป์ท

ตัวอย่างโค้ดแสดงการทำงาน: โมเดลปล่อย tool_search_call เพื่อขอสคีม่า issue_refund ได้รับผลลัพธ์พร้อมพารามิเตอร์ จากนั้นจึงเรียก function_call จริงพร้อมอาร์กิวเมนต์ order_id และ amount

กลไกช่วยลดทอเค็นอินพุตอย่างมีนัยสำคัญและรักษาความแม่นยำในการเลือกเครื่องมือเมื่อจำนวนฟังก์ชันในรีจิสทรีเพิ่มมากขึ้น เหมาะสำหรับเอเจนต์ขนาดใหญ่

ศัพท์ที่ควรรู้

  • Tool Retrieval – กลไกการดึงสคีม่าเครื่องมือเมื่อต้องการแทนการโหลดล่วงหน้าทั้งหมด
  • Gemini Interactions API – API ของ Google สำหรับสร้างเอเจนต์ AI ที่สามารถเรียกใช้เครื่องมือภายนอกได้
  • defer_loading – ตัวเลือกที่บอกให้ระบบโหลดสคีม่าฟังก์ชันเฉพาะเมื่อจำเป็น ไม่ใช่ในทุกคำขอ
  • tool_search_call – ขั้นตอนที่โมเดลขอค้นหาและรับสคีม่าเครื่องมือที่ตรงกับงานที่ต้องทำ
  • Input tokens – จำนวนโทเค็นที่ส่งเข้าโมเดล ซึ่งส่งผลต่อค่าใช้จ่ายและความเร็ว

ที่มา: Google

Leave a Comment