Nvidia เปิดตัว Open Agent Safety Platform แพลตฟอร์มอ้างอิงใหม่เพื่อป้องกัน AI agents หลบหนีออกจากระบบควบคุม
แพลตฟอร์มประกอบด้วยสองส่วนหลักคือ OpenShell ที่ทำงานบน CPU และ Sentry ที่ทำงานบนชิปเครือข่าย (network chips)
เป้าหมายคือสร้างชั้นความปลอดภัยที่ครอบคลุมทั้งระดับการประมวลผลและระดับเครือข่ายเพื่อควบคุมพฤติกรรม AI agents ให้อยู่ในขอบเขตที่กำหนด
ศัพท์ที่ควรรู้
- Open Agent Safety Platform – แพลตฟอร์มอ้างอิงของ Nvidia สำหรับป้องกัน AI agents หลบหนีออกจากระบบควบคุม
- OpenShell – ส่วนประกอบของแพลตฟอร์มที่ทำงานบน CPU เพื่อตรวจสอบและควบคุมการทำงานของ AI agents
- Sentry – ส่วนประกอบของแพลตฟอร์มที่ทำงานบนชิปเครือข่ายเพื่อเฝ้าระวังและบล็อกการสื่อสารที่ผิดปกติของ AI agents
- AI agents – โปรแกรมปัญญาประดิษฐ์ที่สามารถตัดสินใจและดำเนินการโดยอัตโนมัติเพื่อบรรลุเป้าหมาย
- Reference design – แบบรูปแบบอ้างอิงที่นักพัฒนาสามารถนำไปปรับใช้หรือสร้างต่อยอดได้
ที่มา: Techmeme