รายงานทางเทคนิค gpt-oss-safeguard สำหรับการประเมินความปลอดภัย

บทนำ

gpt-oss-safeguard-120b และ gpt-oss-safeguard-20b คือโมเดลที่มีน้ำหนักเปิดที่ผ่านการฝึกฝนเพิ่มเติมจากโมเดล gpt-oss เพื่อให้สามารถให้เหตุผลตามนโยบายที่กำหนดและติดป้ายกำกับเนื้อหาภายใต้นโยบายนั้นๆ

โมเดลเหล่านี้เปิดให้ใช้งานภายใต้ใบอนุญาต Apache 2.0 และนโยบายการใช้งาน gpt-oss โดยเป็นโมเดลข้อความเท่านั้นที่สามารถปรับแต่งได้และรองรับการทำงานแบบ chain-of-thought (CoT) และ Structured Outputs

รายงานนี้อธิบายถึงขีดความสามารถของ gpt-oss-safeguard และนำเสนอการประเมินความปลอดภัยพื้นฐานโดยใช้โมเดล gpt-oss เป็นฐาน ซึ่งแนะนำให้ใช้โมเดลเหล่านี้ในการจำแนกเนื้อหาตามนโยบาย ไม่ใช่เป็นฟังก์ชันหลักที่ผู้ใช้ปลายทางโต้ตอบด้วย

แม้ว่าโมเดลเหล่านี้จะไม่ได้ถูกออกแบบมาสำหรับการใช้งานในรูปแบบแชท แต่เนื่องจากเป็นโมเดลแบบเปิด จึงได้มีการทดสอบและรายงานผลการประเมินความปลอดภัยในบริบทดังกล่าว รวมถึงการประเมินเบื้องต้นเกี่ยวกับประสิทธิภาพหลายภาษาด้วย

ศัพท์ที่ควรรู้

• gpt-oss-safeguard-120b / gpt-oss-safeguard-20b – โมเดลที่มีน้ำหนักเปิดที่ผ่านการฝึกฝนเพิ่มเติมจาก gpt-oss เพื่อใช้ในการให้เหตุผลและจำแนกเนื้อหา
• Chain-of-Thought (CoT) – ความสามารถของโมเดลในการแสดงขั้นตอนการให้เหตุผลทั้งหมดในการทำงาน
• Structured Outputs – ความสามารถในการสร้างผลลัพธ์ที่มีโครงสร้างตามที่กำหนด
• Apache 2.0 license – ใบอนุญาตที่อนุญาตให้ผู้ใช้สามารถนำโมเดลไปใช้และปรับปรุงต่อได้

ที่มา: OpenAI