OpenAI ได้นำเสนอโมเดลใหม่ที่สร้างบน GPT-4o เพื่อเพิ่มความแม่นยำในการตรวจจับข้อความและภาพที่เป็นอันตราย ทำให้ผู้พัฒนาสามารถสร้างระบบ Moderation ที่แข็งแกร่งยิ่งขึ้นได้
โมเดลที่อัปเดตนี้มีการปรับปรุงครั้งสำคัญหลายอย่าง เช่น การจำแนกอันตรายแบบ Multimodal ครอบคลุม 6 หมวดหมู่ และเพิ่มหมวดหมู่ข้อความอันตรายใหม่ 2 ประเภท คือ ‘illicit’ และ ‘illicit/violent’
แม้ว่าโมเดลก่อนหน้าจะมีข้อจำกัดด้านภาษาที่ไม่ใช่ภาษาอังกฤษ แต่โมเดลใหม่นี้แสดงประสิทธิภาพที่เหนือกว่าโมเดลเดิมในภาษาต่างๆ รวมถึงสเปน เยอรมัน อิตาลี โปแลนด์ เวียดนาม โปรตุเกส ฝรั่งเศส จีน อินโดนีเซีย และอังกฤษ
Acknowledgements
รายชื่อผู้มีส่วนร่วมในการพัฒนาโมเดลนี้ ได้แก่ Flo Leoni, Jieqi Yu, Madelaine Boyd และคณะ
ศัพท์ที่ควรรู้
- Moderation API – คือส่วนต่อประสานที่ช่วยให้ระบบสามารถตรวจสอบและกรองเนื้อหาที่ไม่เหมาะสมได้
- GPT-4o – คือโมเดลภาษาขนาดใหญ่ที่ใช้เป็นพื้นฐานในการอัปเกรดโมเดลตรวจจับอันตราย
- Multimodal harm classification – คือความสามารถของโมเดลในการประเมินอันตรายจากทั้งภาพและข้อความรวมกัน
- illicit – คือหมวดหมู่ที่ตรวจจับคำแนะนำหรือวิธีการในการกระทำผิดกฎหมาย
ที่มา: OpenAI