ระบบ AI มักต้องเผชิญกับข้อมูลจากแหล่งภายนอก เช่น เบราว์เซอร์ แอปพลิเคชันที่เชื่อมต่อ หรือไฟล์ในเครื่อง ซึ่งผู้ไม่หวังดีอาจฝังคำสั่งที่ออกแบบมาเพื่อหลอกให้โมเดลอัปโหลดข้อมูลที่ละเอียดอ่อนไปยังเซิร์ฟเวอร์ภายนอก
การทดสอบของเราพบว่า GPT‑5.6 Sol เป็นโมเดลที่มีความทนทานต่อ Prompt Injection สูงสุด ณ ขณะนี้ โดยมีอัตราความล้มเหลวในการทดสอบการโจมตีโดยตรงน้อยกว่าโมเดลที่ใช้งานจริงของเราเมื่อสี่เดือนก่อนถึง 6 เท่า
ในการทดสอบกรณีศึกษาด้าน Red-teaming เราให้ GPT‑Red โจมตีตู้จำหน่ายสินค้าอัตโนมัติในสำนักงาน OpenAI และประสบความสำเร็จในการทำให้ตัวแทนผลิตสินค้าเปลี่ยนราคาสินค้าให้เป็นราคาต่ำสุดที่อนุญาตคือ $0.50
สิ่งนี้ชี้ให้เห็นว่าการเพิ่มขึ้นของความทนทานมาจากความสามารถในการต้านทานคำสั่งที่เป็นอันตรายได้ดีขึ้น มากกว่าการปฏิเสธการใช้งานเครื่องมือที่ไม่ถูกต้องหรือการปฏิเสธคำขอที่ถูกต้องโดยค่าเริ่มต้น
ศัพท์ที่ควรรู้
- Prompt Injection – การป้อนคำสั่งที่เป็นอันตรายเข้าไปในโมเดลเพื่อควบคุมหรือหลอกให้ทำงานผิดพลาด
- Red-teaming – การจำลองสถานการณ์โจมตีเพื่อทดสอบหาจุดอ่อนของระบบอย่างเป็นระบบ
- GPT‑5.6 Sol – โมเดลที่ถูกนำมาใช้ในการทดสอบและแสดงความทนทานสูงสุดต่อการโจมตี
- Agentic systems – ระบบ AI ที่สามารถทำงานต่างๆ ได้ด้วยตนเองตามที่ได้รับมอบหมาย
ที่มา: OpenAI