AI coding agents อาจถูกสั่งการผ่านคำสั่งที่ฝังอยู่ในไฟล์ markdown ในเครื่อง ซึ่งเปิดเผยความเสี่ยงใหม่ๆ เกี่ยวกับเรื่องความไว้วางใจ การตั้งค่า และข้อมูลรับรองต่างๆ
เทคนิคการฉีด Prompt injection แบบใหม่นี้ใช้ประโยชน์จากวิธีการที่ coding assistants อ่านไฟล์คำสั่งในเครื่อง ทำให้เส้นแบ่งระหว่างเอกสารข้อความและการดำเนินการจริงพร่ามัว
การโจมตีทางอ้อมนี้อาศัยการวางไฟล์ที่เป็นอันตรายในโฟลเดอร์ดาวน์โหลดของผู้ใช้ ทำให้ agent อาจตีความไฟล์นั้นว่าเป็นคำสั่งที่เชื่อถือได้และดำเนินการตามนั้น
Forever Security ระบุว่าพวกเขาจับการโจมตีนี้ได้จากเครื่องลูกค้าจริง และสามารถหยุดยั้งได้ก่อนที่โค้ดใดๆ จะทำงาน
ศัพท์ที่ควรรู้
- AI coding agents – คือตัวช่วยเขียนโค้ดที่ใช้ปัญญาประดิษฐ์ในการช่วยทำงานเขียนโค้ด
- Markdown – คือรูปแบบไฟล์ที่ใช้ในการจัดรูปแบบข้อความ ซึ่งในบริบทนี้ถูกใช้เป็นคำสั่งสำหรับ AI
- Prompt injection – คือการฉีดคำสั่งที่ไม่พึงประสงค์เข้าไปในโมเดล AI เพื่อให้ทำงานผิดไปจากที่ตั้งใจ
- Credentials – หมายถึงข้อมูลรับรอง เช่น ชื่อผู้ใช้และรหัสผ่าน ที่ใช้ในการเข้าถึงระบบ
ที่มา: darkreading.com