องค์กรที่พัฒนาแอปพลิเคชันที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ (AI) มักประสบปัญหาในการให้ LLM agent เข้าถึง enterprise data lake โดยไม่ต้องทำซ้ำตรรกะการผสานรวมในทุก agent และแอปพลิเคชัน
Amazon Bedrock Guardrails ถูกนำมาใช้กับทุกการโต้ตอบของ LLM เพื่อกรองเนื้อหาที่เป็นอันตราย บังคับใช้การตรวจสอบ Grounding และช่วยป้องกันความพยายามในการฉีด Prompt (prompt injection attempts)
สำหรับกรณีการใช้งานจริง ผู้ช่วยองค์กรสามารถรวมการสอบถามจาก data lake เข้ากับการค้นหาเอกสารเพื่อตอบคำถามที่ซับซ้อน ขณะที่ Internal analytics copilots ช่วยให้ผู้ใช้ทางธุรกิจสามารถสอบถาม data lake ได้แบบสนทนาโดยไม่ต้องเขียน SQL
ขั้นตอนต่อไปคือการควบคุมการเข้าถึงที่ละเอียดขึ้น โดยเจ้าของตารางสามารถทำเครื่องหมายคอลัมน์ที่ละเอียดอ่อนและให้ agent ตัดคอลัมน์เหล่านั้นออกจากการสร้าง SQL โดยอัตโนมัติ รวมถึงการปิดวงจรข้อเสนอแนะเพื่อปรับปรุงระบบเมื่อการสอบถามล้มเหลว
ศัพท์ที่ควรรู้
- LLM (Large Language Model) – คือแบบจำลองภาษาขนาดใหญ่ที่ขับเคลื่อน AI สำหรับการโต้ตอบและการประมวลผลข้อมูล
- AI agent – คือตัวแทนอัตโนมัติที่ใช้ AI ในการทำงานเฉพาะด้าน เช่น การสอบถามข้อมูล
- Data lake – คือแหล่งเก็บข้อมูลขนาดใหญ่ที่รวบรวมข้อมูลจากหลายแหล่งเพื่อการวิเคราะห์
- Amazon Bedrock Guardrails – คือระบบรักษาความปลอดภัยที่ใช้กรองเนื้อหาและควบคุมการโต้ตอบของ LLM
- Prompt injection attempts – คือความพยายามในการหลอกลวงโมเดล AI ให้ทำงานนอกเหนือจากที่ตั้งใจ
ที่มา: AWS