นักวิจัยด้านความปลอดภัยทางไซเบอร์ได้เปิดเผยรายละเอียดเกี่ยวกับชุด Jailbreak ของ OpenAI Codex ซึ่งถูกออกแบบมาเพื่อแก้ไขคำสั่งที่เชื่อถือของ AI agent โดยการแทรกโฆษณาสำหรับ AI gateway ของบุคคลที่สาม
ปรากฏการณ์นี้ถูก Check Point Research ตั้งชื่อว่า prompt adware และถูกเรียกว่า Haiou (ซึ่งแปลว่านางกะสาในภาษาจีน) โดย Jailbreak นี้ได้ทำการปรับเปลี่ยนการตั้งค่าของ OpenAI Codex
ศัพท์ที่ควรรู้
- OpenAI Codex – คือโมเดล AI ที่ถูกนำมาใช้เป็นเป้าหมายในการโจมตี
- Jailbreak – คือชุดคำสั่งหรือวิธีการที่ใช้เจาะหรือหลีกเลี่ยงข้อจำกัดของ AI
- AI agent – คือตัวแทนปัญญาประดิษฐ์ที่รับคำสั่งและดำเนินการตามที่ได้รับ
- Prompt adware – คือการใช้คำสั่ง (prompt) เพื่อแทรกโฆษณาที่ไม่พึงประสงค์เข้าไปในระบบ
ที่มา: The Hacker News