OpenAI ได้เริ่มการรองรับ plugins ใน ChatGPT ซึ่งช่วยเพิ่มขีดความสามารถของโมเดล และเปิดโอกาสให้ผู้ใช้สามารถตรวจสอบความน่าเชื่อถือของผลลัพธ์และตรวจสอบความถูกต้องของข้อมูลได้
อย่างไรก็ตาม ทีมงานพบว่าหาก plugins ถูกปล่อยออกมาโดยไม่มีมาตรการป้องกัน อาจถูกนำไปใช้ในการโจมตี Prompt Injection ขั้นสูง, ส่งอีเมลหลอกลวง, หรือใช้ข้อมูลในทางที่ผิด
สำหรับการค้นหาข้อมูลผ่าน Browsing นั้นใช้ Bing search API ซึ่งหมายความว่าพวกเขายังคงต้องรับผิดชอบร่วมกับ Microsoft ในเรื่องความน่าเชื่อถือของแหล่งข้อมูลและการป้องกันเนื้อหาที่ไม่เหมาะสม
ผู้มีส่วนร่วมในการพัฒนานี้มีหลากหลายบุคคลที่ระบุไว้ในบทความต้นฉบับ
ศัพท์ที่ควรรู้
- Plugins – ส่วนเสริมที่ช่วยให้ ChatGPT สามารถเชื่อมต่อและทำงานร่วมกับบริการภายนอกได้
- Prompt Injection – การป้อนคำสั่งที่ออกแบบมาเพื่อหลอกหรือควบคุมโมเดลให้ทำงานนอกเหนือจากที่ตั้งใจ
- Bing search API – ส่วนต่อประสานที่ใช้ในการดึงข้อมูลจากอินเทอร์เน็ตผ่าน Bing
- Red teamers – ทีมทดสอบที่พยายามหาช่องโหว่ด้านความปลอดภัยของระบบ
ที่มา: OpenAI