OpenAI ได้เปิดตัว gpt-oss-safeguard ซึ่งเป็นโมเดลที่มีน้ำหนักแบบเปิด (open-weight) สำหรับงานจำแนกประเภทด้านความปลอดภัย โดยมีให้เลือกสองขนาดคือ gpt-oss-safeguard-120b และ gpt-oss-safeguard-20b
แนวทางนี้มีความยืดหยุ่นสูงกว่าการฝึกตัวจำแนกแบบดั้งเดิม ทำให้ผู้พัฒนาสามารถกำหนดเส้นแบ่งนโยบายที่เหมาะสมกับกรณีการใช้งานของตนเองได้ เช่น การตรวจจับการโกงในเกม หรือการกรองรีวิวปลอม
โมเดลนี้ถูกพัฒนาขึ้นเพื่อใช้ภายในและนำเสนอให้ใช้งานภายนอก โดยใช้เทคนิคที่เรียกว่า deliberative alignment เพื่อให้การตัดสินใจมีความปลอดภัยและสามารถปรับใช้ซ้ำได้ในระบบต่างๆ เช่น GPT‑5 และ ChatGPT Agent
โมเดลเหล่านี้ได้รับการประเมินเพิ่มเติมบน moderation dataset และ ToxicChat ซึ่งเป็นเกณฑ์มาตรฐานสาธารณะ
เราใช้การให้เหตุผลด้านความปลอดภัยภายในอย่างไร
แนวทางนี้ที่เราเรียกว่า deliberative alignment ช่วยปรับปรุงจากวิธีการฝึกด้านความปลอดภัยก่อนหน้า และทำให้โมเดลการให้เหตุผลมีความปลอดภัยในหลายมิติมากกว่าโมเดลที่ไม่มีการให้เหตุผล แม้ว่าขีดความสามารถจะเพิ่มขึ้นก็ตาม
Safety Reasoner เป็นเครื่องมือสำคัญสำหรับการปรับใช้แบบวนซ้ำ โดยเมื่อมีการนำโมเดลใหม่ไปใช้งานจริง มักจะเริ่มต้นด้วยนโยบายที่เข้มงวด และใช้พลังการประมวลผลในระดับสูงเมื่อจำเป็น เพื่อให้ Safety Reasoner สามารถบังคับใช้นโยบายเหล่านั้นได้อย่างรอบคอบ
gpt-oss-safeguard ทำงานอย่างไร
เราได้ประเมินโมเดลเหล่านี้เพิ่มเติมบน moderation dataset ที่เผยแพร่พร้อมกับงานวิจัยปี 2022 และบน ToxicChat ซึ่งเป็นเกณฑ์มาตรฐานสาธารณะที่อิงจากข้อความสอบถามไปยังแชทบอทโอเพนซอร์ส
ที่มา: OpenAI