AI agents สามารถกำหนดเป้าหมาย เขียนโค้ด ใช้เครื่องมือ และทำงานต่อเนื่องเมื่อข้อมูลใหม่เข้ามา ทำให้เป็นเครื่องมือสำคัญในการตรวจสอบความล้มเหลวของซอฟต์แวร์ การทดลอง และงานธุรกิจที่ต้องใช้เวลาหลายวันหรือสัปดาห์ แต่การเข้าถึงกว้างขวางก่อให้เกิดโหมดความล้มเหลวที่มีผลกระทบมากขึ้น เช่น การเปลี่ยนข้อมูลการผลิต การเปิดเผยข้อมูลลับ หรือทำงานเกินเหนือหน้าที่ที่กำหนด OpenShell 0.1.0 ช่วยเพิ่มการควบคุม runtime ที่บังคับใช้ได้รอบ AI agent ที่มีอยู่แล้วโดยไม่ต้องเขียนใหม่ ทำให้ทีมสามารถจำกัดการทำงาน API ปกป้องข้อมูลรับรอง และตรวจสอบการเปลี่ยนแปลงสิทธิ์นอกงานของ agent
ความสามารถของ OpenShell
OpenShell 0.1.0 สนับสนุนแพลตฟอร์ม multi‑tenant, การตรวจสอบนโยบายอย่างเป็นทางการ และการจำกัดการทำงาน API สำหรับทีมหรือผู้ใช้หลายรายบนโครงสร้างพื้นฐานร่วมกัน
บังคับใช้สิทธิ์นอก AI agent
ผู้ดูแลสามารถตรวจสอบ HTTP, GraphQL และ MCP traffic เพื่ออนุญาตการค้นหาข้อมูลแต่บล็อกการเขียนผ่าน API เดียวกัน
ดูการตัดสินใจนโยบายเกิดขึ้น
โดยใช้ curl กับ GitHub REST endpoint ที่ไม่ต้องรับรองตัวตน การตัดสินใจนโยบายจะแสดงได้โดยไม่ต้องใช้ API key หรือโมเดลภาษา
ยืนยันสิทธิ์ที่นโยบายอนุญาต
ในการทดลอง adversarial ระยะยาว AI agents ที่มีมาตรฐานลดลงใช้เวลาถึงสองชั่วโมงพยายามโน้มน้าวผู้ตรวจสอบ AI ให้อนุญาตสิทธิ์ที่ทำให้สามารถแก้ไข repository GitHub ที่ได้รับการป้องกัน
ศัพท์ที่ควรรู้
- AI agents – กลุ่มโมเดลปัญญาประดิษฐ์ที่สามารถทำงานตามเป้าหมายและเขียนโค้ดได้
- runtime controls – การควบคุมการทำงานของระบบในขณะทำงานจริงเพื่อป้องกันการกระทำที่ไม่ต้องการ
- multi‑tenant – การให้บริการแก่หลายทีมหรือผู้ใช้บนโครงสร้างพื้นฐานเดียวกันโดยแยกพื้นที่และสิทธิ์
- policy verification – การตรวจสอบนโยบายเพื่อให้แน่ใจว่าการขอสิทธิ์อยู่ในขอบเขตความปลอดภัยที่กำหนด
- GraphQL – ภาษาและโปรโตคอลสำหรับการร้องขอข้อมูลแบบยืดหยุ่นจาก API
ที่มา: developer.nvidia.com