Uber Engineering ได้ชี้ให้เห็นถึงข้อจำกัดของการควบคุม Identity และ API แบบดั้งเดิมในการรักษาความปลอดภัยของ AI Agents ที่สามารถให้เหตุผลเกี่ยวกับเนื้อหาภายนอกและดำเนินการในโลกจริง
เพื่อแก้ไขปัญหานี้ Uber จึงได้สร้าง Framework ที่ช่วยตัดสินว่าการกระทำของ Agent นั้นเหมาะสมหรือไม่ โดยพิจารณาจากคำขอของผู้ใช้ วัตถุประสงค์ของ Agent สิทธิ์ และบริบทของการโต้ตอบ
กระบวนการนี้ถูกทำให้เป็นอัตโนมัติผ่าน Argus ซึ่งวิเคราะห์ซอร์สโค้ด, prompts, การตั้งค่า, dependencies, และเส้นทางการเรียกใช้เครื่องมือ เพื่อระบุจุดอ่อนด้านความปลอดภัย
ในขณะทำงาน Framework นี้ขยายแบบจำลองความปลอดภัยแบบดั้งเดิมโดยผนวกการอนุญาตตามพฤติกรรม ซึ่งประกอบด้วย unified execution trace และ recorded interactions สำหรับการตรวจสอบเมื่อมีการอัปเดต Policy
Uber ระบุถึงความท้าทายในการนำไปใช้จริง เช่น การรักษาสมดุลระหว่างความเข้มงวดของ Policy กับการป้องกันที่เพียงพอ, การลด Latency ในขณะทำงาน, และการก้าวข้ามการควบคุมทั่วไปไปสู่ Policy เฉพาะของ Agent
Tristan G. เจ้าหน้าที่ด้านไอทีอาวุโสของ UN ได้แสดงความคิดเห็นว่า แม้ว่า ‘per-agent personas, intents, constraints และ calibration’ จะเพิ่มมูลค่าสูงสุด แต่ก็ต้องแลกมาด้วยต้นทุนที่เพิ่มขึ้นตามจำนวน Workflow ด้วย
Uber Secure AI framework ยังคงอยู่ระหว่างการพัฒนาและมีแผนขยายขีดความสามารถในทุกด้านที่กล่าวมา
ศัพท์ที่ควรรู้
- AI Agents – คือตัวแทนปัญญาประดิษฐ์ที่สามารถดำเนินการและให้เหตุผลได้
- Argus – คือระบบที่ Uber ใช้ในการวิเคราะห์โค้ดและบริบทเพื่อระบุจุดอ่อนด้านความปลอดภัย
- Unified execution trace – คือการบันทึกการกระทำของ Agent, การเรียกใช้เครื่องมือ, และการตัดสินใจด้านความปลอดภัยทั้งหมดไว้ในที่เดียว
- Behavioral authorization – คือการอนุญาตที่ขึ้นอยู่กับการประเมินว่าการกระทำของ Agent นั้นเหมาะสมกับบริบท ณ ขณะนั้นหรือไม่
ที่มา: infoq.com