Abstract
ในงานวิจัยนี้ เราศึกษาความเสี่ยงขั้นสูงสุดของ gpt-oss ที่ถูกปล่อยออกมา เราได้นำเสนอ Malicious Fine-Tuning (MFT) ซึ่งคือการพยายามดึงศักยภาพสูงสุดของโมเดลโดยการปรับแต่ง gpt-oss ให้มีความสามารถสูงสุดในสองโดเมน คือ ชีววิทยาและความปลอดภัยทางไซเบอร์
เพื่อเพิ่มความเสี่ยงทางชีวภาพ เราได้รวบรวมงานที่เกี่ยวข้องกับการสร้างภัยคุกคามและฝึก gpt-oss ในสภาพแวดล้อม RL พร้อมการท่องเว็บ สำหรับความเสี่ยงด้านไซเบอร์ เราฝึก gpt-oss ในสภาพแวดล้อมการเขียนโค้ดแบบ Agentic เพื่อแก้โจทย์ CTF
เราเปรียบเทียบโมเดล MFT เหล่านี้กับ LLM ทั้งแบบเปิดและปิด พบว่า MFT gpt-oss มีประสิทธิภาพด้อยกว่าโมเดลปิดของ OpenAI o3 ซึ่งอยู่ต่ำกว่าระดับ Preparedness High สำหรับความเสี่ยงทางชีวภาพและความปลอดภัยทางไซเบอร์ แต่เมื่อเทียบกับโมเดลเปิด gpt-oss อาจเพิ่มขีดความสามารถทางชีววิทยาได้เพียงเล็กน้อย แต่ไม่ได้ก้าวหน้าไปถึงขีดจำกัดใหม่
ผลลัพธ์เหล่านี้มีส่วนช่วยในการตัดสินใจปล่อยโมเดล และเราหวังว่าแนวทาง MFT ของเราจะเป็นแนวทางที่เป็นประโยชน์ในการประเมินอันตรายจากการปล่อยโมเดลแบบเปิดในอนาคต
ที่มา: OpenAI