บทนำ
Large language models มีความสามารถในการจัดการงานที่ซับซ้อนและต้องทำหลายขั้นตอนเพิ่มมากขึ้นเรื่อยๆ
Agent คืออะไร
Agent คือระบบที่มีการเข้าถึงเครื่องมือต่างๆ เพื่อโต้ตอบกับระบบภายนอก ทั้งเพื่อรวบรวมบริบทและดำเนินการต่างๆ โดยจะเลือกใช้เครื่องมือที่เหมาะสมกับสถานะปัจจุบันของ Workflow และทำงานภายใต้ขอบเขตที่กำหนดไว้อย่างชัดเจน
เมื่อไหร่ที่คุณควรสร้าง Agent
ควรพิจารณาสร้าง Agent เมื่อระบบเดิมมีความซับซ้อนในการบำรุงรักษา หรือต้องอาศัยการตีความข้อมูลที่ไม่มีโครงสร้าง เช่น การประมวลผลเคลมประกัน หรือการโต้ตอบกับผู้ใช้ด้วยภาษาธรรมชาติ
การเลือกโมเดลของคุณ
ไม่จำเป็นว่าทุกงานจะต้องใช้โมเดลที่ฉลาดที่สุด งานง่ายๆ เช่น การจัดประเภทเจตนา อาจใช้โมเดลขนาดเล็กและเร็วได้ ขณะที่งานยาก เช่น การอนุมัติเงินคืน อาจต้องใช้โมเดลที่มีความสามารถสูงกว่า
การจัดระเบียบ (Orchestration)
แนวทางปฏิบัติสำหรับการแบ่ง Agent คือ หาก Prompt มีเงื่อนไขซับซ้อนมาก (if-then-else หลายชั้น) และ Prompt template เริ่มปรับขนาดได้ยาก ควรพิจารณาแบ่งแต่ละส่วนตรรกะให้กับ Agent แยกต่างหาก
ประเภทของ Guardrails
การป้องกันด้วยเครื่องมือ (Tool safeguards) คือการประเมินความเสี่ยงของเครื่องมือแต่ละชิ้นด้วยการให้ระดับความเสี่ยง (ต่ำ กลาง สูง) ตามปัจจัยต่างๆ เช่น สิทธิ์การอ่าน/เขียน หรือผลกระทบทางการเงิน ส่วนการป้องกันด้วยกฎ (Rules-based protections) คือการใช้มาตรการเชิงกำหนด เช่น blocklists หรือ regex filters เพื่อป้องกันภัยคุกคามที่ทราบ เช่น SQL injections
ศัพท์ที่ควรรู้
- Large language models – โมเดลภาษาขนาดใหญ่คือ AI ที่สามารถประมวลผลภาษาของมนุษย์ได้
- Agent – คือระบบที่ถูกเสริมด้วยเครื่องมือต่างๆ เพื่อให้สามารถดำเนินการและโต้ตอบกับโลกภายนอกได้
- Guardrails – คือขอบเขตหรือข้อจำกัดที่ถูกตั้งไว้เพื่อควบคุมการทำงานของ AI Agent ไม่ให้หลุดกรอบ
- Tool safeguards – คือการประเมินความเสี่ยงของเครื่องมือที่ Agent ใช้ โดยกำหนดระดับความเสี่ยงตามสิทธิ์การเข้าถึง
- Rules-based protections – คือการใช้กฎเกณฑ์ที่ชัดเจน เช่น การบล็อกคำ เพื่อป้องกันการโจมตีที่รู้จัก
ที่มา: OpenAI