Microsoft ได้นำเสนอ Project Perception โดยเพิ่ม Guardian Agents เข้ามาเพื่อเฝ้าติดตามและควบคุม AI Agents ที่มีพฤติกรรมผิดปกติ ซึ่งเทียบเคียงได้กับการจัดการกับพนักงานที่มีสิทธิ์เข้าถึงระดับสูง
บริษัทซอฟต์แวร์ยักษ์ใหญ่นี้ได้เปิดตัวความสามารถใหม่ใน Project Perception ทำให้สามารถค้นพบ Agents ที่ทำงานในองค์กร, กำหนดตัวตนและสิทธิ์ให้กับแต่ละ Agent, และให้คะแนนความเสี่ยงขององค์กรได้อย่างต่อเนื่อง
เมื่อตรวจพบ Agent ที่มีพฤติกรรมผิดปกติในสภาพแวดล้อมขององค์กร ซึ่ง Microsoft เรียกว่า “agentic insider” ระบบสามารถตัดการเข้าถึงของ Agent นั้นได้
อย่างไรก็ตาม ผู้เชี่ยวชาญเตือนว่า การควบคุม Agents ที่คาดเดาไม่ได้ด้วย Agents อื่นอาจทำให้ความเสี่ยงทวีความรุนแรงขึ้น แทนที่จะเป็นการควบคุมความเสี่ยงนั้น
ศัพท์ที่ควรรู้
- AI Agents – คือโปรแกรมปัญญาประดิษฐ์ที่ทำงานอัตโนมัติและมีขีดความสามารถในการดำเนินการต่างๆ
- Guardian Agents – คือ Agents ที่ถูกเพิ่มเข้ามาเพื่อทำหน้าที่เฝ้าระวังและควบคุม Agents อื่นๆ
- Project Perception – คือแพลตฟอร์มของ Microsoft ที่ใช้ในการบริหารจัดการและตรวจจับความเสี่ยงด้านความปลอดภัย
- agentic insider – คือสถานการณ์ที่ AI Agent ที่ทำงานในองค์กรแสดงพฤติกรรมที่เป็นภัยคุกคามจากภายใน
ที่มา: darkreading.com