ทนายบราซิลถูกปรับ หลังพยายามป้อนคำสั่งหลอก AI ศาลด้วย Prompt Injection
ศาลแรงงานบราซิลปรับทนายสองคน เนื่องจากพบว่าเอกสารที่ยื่นนั้นมีข้อความซ่อนอยู่ซึ่งพยายามชักจูงเครื่องมือ AI ของศาล
prompt injection
การโจมตีในโลกจริง ใช้ประโยชน์จากความเชื่อใจของ AI Agent ในไฟล์ Markdown
Forever Security รายงานการโจมตีรูปแบบใหม่ที่เกิดขึ้นจริง โดยผู้โจมตีใช้ไฟล์ Markdown ในโฟลเดอร์ดาวน์โหลดของผู้ใช้เพื่อหลอกให้ AI coding…
OpenAI เสนอ Instruction Hierarchy เสริมความแข็งแกร่งให้ LLM รับมือ Prompt Injection
LLM ในปัจจุบันมีความเสี่ยงต่อการถูกโจมตีด้วย prompt injection หรือ jailbreak เนื่องจากมักให้ความสำคัญกับคำสั่งจากผู้ใช้เท่ากับคำสั่งระบบที่ผ…
ทำความเข้าใจ Prompt Injection: ความท้าทายด้านความปลอดภัยใหม่ของ AI
Prompt injection คือการโจมตีที่ใช้คำสั่งหลอก AI ให้ทำในสิ่งที่ผู้ใช้ไม่ได้ตั้งใจ ซึ่งคล้ายกับการหลอกลวงแบบ phishing ในอีเมล OpenAI…
OpenAI เผยแนวทางการออกแบบ AI Agent ให้ต้านทาน Prompt Injection
AI agents ในปัจจุบันมีความสามารถในการท่องเว็บ ค้นหาข้อมูล และดำเนินการแทนผู้ใช้ ซึ่งทำให้การโจมตีแบบ Prompt injection มีความซับซ้อนมากขึ้น…