ภาพรวมของ Sora
Sora คือโมเดลสร้างวิดีโอของ OpenAI ซึ่งถูกออกแบบมาให้สามารถรับอินพุตได้ทั้งข้อความ รูปภาพ และวิดีโอ และจะสร้างวิดีโอใหม่เป็นเอาต์พุตออกมา
การประเมิน
ข้อมูลจากเฟสอัลฟ่าให้ข้อมูลเชิงลึกเกี่ยวกับการใช้งานในโลกจริง การมีส่วนร่วมของ Red Teamer ช่วยในการค้นพบเนื้อหาที่ท้าทายและกรณีขอบเขตต่างๆ ขณะที่ข้อมูลสังเคราะห์ช่วยในการขยายชุดการประเมินในด้านที่พบตัวอย่างตามธรรมชาติได้ยาก เช่น เนื้อหาที่ไม่เหมาะสมทางเพศ
ความปลอดภัยของเด็ก
มีการนำเสนอเมตริกการจำแนกภาพว่าเป็น ‘is child’ หรือ ‘not child’ ซึ่งแสดงให้เห็นถึงความแม่นยำในการจำแนกภาพถ่าย โดยมีมาตรการบังคับใช้เกณฑ์ที่เข้มงวดสำหรับเนื้อหาที่มีการอ้างอิงถึงผู้เยาว์ในอินพุตข้อความ
คำขอบคุณ
การเข้าร่วมในกระบวนการทดสอบนี้ไม่ได้ถือเป็นการรับรองแผนการติดตั้งหรือนโยบายของ OpenAI ของผู้เข้าร่วมแต่ละท่าน
ศัพท์ที่ควรรู้
- Sora – โมเดลของ OpenAI ที่สามารถสร้างวิดีโอจากอินพุตประเภทต่างๆ ได้
- Red Teamer – ผู้ทดสอบที่ถูกว่าจ้างมาเพื่อค้นหาจุดอ่อนหรือเนื้อหาที่เป็นอันตรายของโมเดล
- is_child/not_child – การจำแนกภาพว่าเป็นภาพของเด็กหรือผู้ใหญ่ตามที่โมเดลประเมิน
- Precision – ค่าที่วัดเปอร์เซ็นต์ของผลการจำแนกว่าเป็น ‘is_child’ ที่ถูกต้องว่าเป็นเด็กจริง
- Recall – ค่าที่วัดเปอร์เซ็นต์ของภาพเด็กจริงที่สามารถถูกจำแนกว่าเป็น ‘is_child’ ได้
ที่มา: OpenAI