การกลั่นกรองเนื้อหานั้นต้องใช้ความละเอียดอ่อน ความเข้าใจในบริบท และการปรับตัวอย่างรวดเร็ว ซึ่งเป็นงานที่ทั้งใช้เวลาและท้าทาย โดยปกติแล้วมนุษย์จะเป็นผู้รับภาระในการคัดกรองเนื้อหาที่เป็นอันตราย
ด้วยระบบนี้ การกำหนดและปรับแต่งนโยบายเนื้อหาสามารถลดระยะเวลาจากหลายเดือนเหลือเพียงไม่กี่ชั่วโมง เมื่อมีแนวทางนโยบายแล้ว ผู้เชี่ยวชาญสามารถสร้างชุดข้อมูลอ้างอิงโดยการติดป้ายกำกับตัวอย่างจำนวนน้อย
การตรวจสอบความแตกต่างระหว่างการตัดสินของ GPT-4 กับมนุษย์ ทำให้ผู้เชี่ยวชาญสามารถขอให้ GPT-4 ให้เหตุผลเบื้องหลังการติดป้ายนั้น วิเคราะห์ความคลุมเครือของนโยบาย และให้ข้อชี้แจงเพิ่มเติมได้
ทางเลือกคือการใช้การทำนายของ GPT-4 เพื่อปรับจูนโมเดลที่เล็กกว่าสำหรับข้อมูลจำนวนมาก นอกจากนี้ยังมีการทดลองตรวจจับความเสี่ยงที่ไม่รู้จัก โดยได้รับแรงบันดาลใจจาก Constitutional AI เพื่อระบุเนื้อหาที่เป็นอันตราย
เช่นเดียวกับการประยุกต์ใช้ AI ใดๆ ผลลัพธ์ทั้งหมดจะต้องได้รับการตรวจสอบ ตรวจทาน และปรับปรุงอย่างรอบคอบโดยมนุษย์ เพื่อให้มนุษย์ยังคงมีบทบาทในการจัดการกรณีขอบนอกที่ซับซ้อนที่สุด
ศัพท์ที่ควรรู้
- Content moderation – กระบวนการตรวจสอบและกลั่นกรองเนื้อหาเพื่อคัดกรองสิ่งที่ผิดหรือเป็นอันตราย
- GPT-4 – โมเดลภาษาขนาดใหญ่ที่ OpenAI พัฒนา ซึ่งถูกนำมาใช้ในการตัดสินใจเกี่ยวกับเนื้อหา
- Golden set of data – ชุดข้อมูลตัวอย่างที่ได้รับการติดป้ายกำกับอย่างถูกต้องตามนโยบาย ซึ่งใช้เป็นมาตรฐานในการฝึกฝน
- Constitutional AI – แนวทางการใช้ AI ที่มีหลักการหรือรัฐธรรมนูญกำกับ เพื่อช่วยในการตัดสินใจของโมเดล
ที่มา: OpenAI