เมื่อตัวแทนขายขอราคาจาก AI Agent ซึ่งดึงข้อมูลจากหลายระบบ ทั้งระบบราคาที่จำกัด การสื่อสารภายใน และใบเสนอราคาเก่าๆ และ Agent นำข้อมูลนั้นไปให้ Agent ตัวที่สองร่างข้อเสนอขายโดยไม่มีการตรวจสอบจากมนุษย์เลย
เมื่อพบว่าข้อเสนอขายมีข้อมูลลับที่ไม่ได้รับอนุมัติปะปนอยู่ ก็ไม่มีใครสามารถสืบย้อนได้ว่าข้อมูลมีปัญหาเข้ามาในเวิร์กโฟลว์ได้อย่างไร หรือมันแพร่กระจายไปในระบบ ไฟล์ และ Agent ต่างๆ ได้อย่างไร
สถานการณ์นี้แสดงให้เห็นว่าการกำกับดูแล AI ต้องมีการพัฒนาอย่างรวดเร็วและพลวัต เนื่องจากองค์กรต่างๆ ต้องจัดการกับข้อมูลที่เคลื่อนที่และแตกส่วน ซึ่งถูกนำเข้า คัดลอก สรุป แปลง ใช้ซ้ำ และแจกจ่ายใหม่ในรูปแบบต่างๆ อย่างต่อเนื่อง
ดังนั้น การรักษาความปลอดภัยของ AI ในระดับองค์กรจึงต้องอาศัยการทำความเข้าใจว่าข้อมูลเคลื่อนที่อย่างไร และต้องมีการสร้าง Data Lineage เพื่อบริหารจัดการธรรมาภิบาล ความรับผิดชอบ และความไว้วางใจในเวิร์กโฟลว์ของมนุษย์ เอเจนต์ และแบบผสมผสาน
ศัพท์ที่ควรรู้
- AI Agent – คือโปรแกรมปัญญาประดิษฐ์ที่สามารถทำงานอัตโนมัติและตัดสินใจได้ในกระบวนการทำงานขององค์กร
- Data Lineage – คือการติดตามและบันทึกเส้นทางการเดินทางของข้อมูลทั้งหมด ตั้งแต่ต้นทางจนถึงปลายทาง
- Agentic AI – คือการนำ AI มาใช้ในรูปแบบตัวแทนที่สามารถทำงานหลายขั้นตอนได้ด้วยตนเอง
- Data Visibility – คือความสามารถในการมองเห็นและติดตามว่าข้อมูลนั้นๆ ถูกนำไปใช้อย่างไรบ้างในระบบ
ที่มา: technologyreview.com