ข้อสรุปสำคัญ
การวิศวกรรมบริบท (Context engineering) มีความสำคัญกว่าการวิศวกรรม Prompt (Prompt engineering) เพราะระบบที่สร้างบริบทขึ้นมานั้นสำคัญกว่าตัว Prompt เอง
ความรู้เทียบกับข้อมูลดิบ (SELECT * เทียบกับข้อมูลเชิงลึกสะสม)
หากป้อนเอกสารจำนวนมากโดยไม่มีการคัดกรอง อาจทำให้ LLM เสียทรัพยากรในการพยายามแยกสัญญาณสำคัญออกจากเสียงรบกวน
การเลือก (การดึงและการกรอง)
สถาปัตยกรรมขั้นสูงใช้การค้นหาแบบลูกผสม (hybrid search) ที่รวมการค้นหาเชิงความหมายเข้ากับการค้นหาด้วยคีย์เวิร์ด และการท่องไปใน Knowledge graph เพื่อเพิ่มความแม่นยำ
การฉีดข้อมูล
การออกแบบนี้ใช้ Semantic templating เพื่อจัดรูปแบบข้อมูลให้ตรงกับเจตนาของผู้ใช้ รวมถึงคำสั่งของระบบ ตัวอย่างแบบ Few-shot และข้อจำกัดของ Output schema เช่น JSON
การบีบอัด (การสรุปและการกลั่นกรอง)
การใช้ LLM ที่เล็กกว่าหรืออัลกอริทึมเชิงกำหนดเพื่อสรุปประวัติการสนทนาช่วยประหยัดพื้นที่และลด Latency ของโมเดลหลัก
บทสรุป: ระบบ Agentic ที่ประสบความสำเร็จขึ้นอยู่กับสถาปัตยกรรมของมัน
ความท้าทายหลักสำหรับทีมวิศวกรรมคือการจัดการสถานะ การจัดลำดับความสำคัญของสัญญาณ การแยกข้อผิดพลาด ความสดใหม่ของข้อมูล ความปลอดภัย และการควบคุมต้นทุน
ศัพท์ที่ควรรู้
- Agentic AI – ระบบ AI ที่มีความสามารถในการดำเนินการหรือตัดสินใจได้ด้วยตนเอง
- Prompt engineering – กระบวนการออกแบบและปรับปรุงข้อความนำเข้า (Prompt) เพื่อให้ได้ผลลัพธ์ที่ต้องการจากโมเดล AI
- Context engineering – การออกแบบและจัดการบริบทที่ป้อนให้กับโมเดล AI เพื่อให้การทำงานมีประสิทธิภาพ
- Hybrid search algorithms – อัลกอริทึมการค้นหาที่ผสมผสานระหว่างการค้นหาเชิงความหมายและการค้นหาด้วยคีย์เวิร์ดเพื่อเพิ่มความแม่นยำ
- Semantic templating – การใช้แม่แบบทางความหมายเพื่อจัดรูปแบบข้อมูลให้ตรงตามเจตนาของผู้ใช้
ที่มา: infoq.com