ระบบ AI ในปัจจุบันมีความสามารถในการดำเนินการแทนผู้ใช้ เช่น การเปิดหน้าเว็บหรือโหลดรูปภาพเพื่อตอบคำถาม ซึ่งทำให้เกิดการโจมตีรูปแบบหนึ่งคือ URL-based data exfiltration ซึ่ง OpenAI ได้สร้างกลไกป้องกันสำหรับปัญหานี้
ปัญหาคือ URL สามารถถูกใช้เป็นพาหะในการส่งข้อมูลได้ เช่น การหลอกให้โมเดลโหลด URL ที่มีข้อมูลลับของผู้ใช้แทรกอยู่ ซึ่งผู้โจมตีสามารถอ่านค่าเหล่านั้นได้จาก Log ของตนเอง
ทำไม “รายการไซต์ที่เชื่อถือได้” แบบง่ายๆ จึงไม่เพียงพอ
การใช้กฎที่เข้มงวดเกินไปอาจทำให้เกิดการแจ้งเตือนผิดพลาดบ่อยครั้ง ซึ่งอาจทำให้ผู้ใช้ละเลยการตรวจสอบคำสั่งของ AI ไปโดยไม่ทันคิด
แนวทางของเรา: อนุญาตการดึงข้อมูลอัตโนมัติสำหรับ URL ที่เปิดเผยต่อสาธารณะเท่านั้น
เพื่อลดความเสี่ยงที่ URL จะมีข้อมูลส่วนตัวของผู้ใช้ เราใช้หลักการว่า หาก URL นั้นมีอยู่และเปิดเผยต่อสาธารณะโดยไม่ขึ้นอยู่กับการสนทนาของผู้ใช้ ก็มีโอกาสน้อยกว่าที่จะบรรจุข้อมูลส่วนตัวของผู้ใช้
สิ่งนี้ป้องกันอะไรและไม่ป้องกันอะไร
เรามีการเฝ้าระวังเทคนิคการหลบเลี่ยงอย่างต่อเนื่อง และปรับปรุงการป้องกันเหล่านี้ไปเรื่อยๆ เพราะเราตระหนักว่าเมื่อ Agent มีความสามารถมากขึ้น ผู้โจมตีก็จะปรับตัวเช่นกัน นี่คือปัญหาด้านวิศวกรรมความปลอดภัยที่ต้องแก้ไขอย่างต่อเนื่อง
มองไปข้างหน้า
เช่นเดียวกับที่อินเทอร์เน็ตได้สอนเรา ความปลอดภัยไม่ใช่แค่การบล็อกปลายทางที่ไม่ดีเท่านั้น แต่คือการจัดการกับพื้นที่สีเทาได้อย่างดี ด้วยการควบคุมที่โปร่งใสและค่าเริ่มต้นที่แข็งแกร่ง เป้าหมายของเราคือให้ AI Agent มีประโยชน์โดยไม่สร้างเส้นทางใหม่ให้ข้อมูลของผู้ใช้หลุดรอดไป
ศัพท์ที่ควรรู้
- AI agent – ตัวแทน AI ที่สามารถดำเนินการต่างๆ แทนผู้ใช้ เช่น การเปิดเว็บหรือติดตามลิงก์
- URL-based data exfiltration – การโจมตีที่ใช้ URL เป็นช่องทางในการส่งข้อมูลลับของผู้ใช้ไปยังผู้โจมตี
- Prompt – คำสั่งหรือข้อความที่ป้อนให้กับโมเดล AI เพื่อให้ทำงาน
- Safeguards – มาตรการป้องกันที่ถูกสร้างขึ้นเพื่อลดความเสี่ยงจากการโจมตี
ที่มา: OpenAI