เพื่อช่วยให้นักพัฒนาสามารถปกป้องแอปพลิเคชันของตนเองจากการถูกนำไปใช้ในทางที่ผิด เราได้เปิดตัว Moderation endpoint ซึ่งเป็นบริการที่รวดเร็วและแม่นยำยิ่งขึ้น
Endpoint นี้มอบการเข้าถึง GPT-based classifiers ฟรี ให้กับนักพัฒนา OpenAI API เพื่อตรวจจับเนื้อหาที่ไม่พึงประสงค์ ซึ่งเป็นการใช้ระบบ AI เพื่อช่วยในการกำกับดูแลของมนุษย์ต่อระบบดังกล่าว
เมื่อได้รับข้อความนำเข้า Moderation endpoint จะประเมินว่าเนื้อหานั้นเกี่ยวกับเรื่องเพศ คำพูดแสดงความเกลียดชัง ความรุนแรง หรือการส่งเสริมการทำร้ายตนเองหรือไม่ ซึ่งเป็นเนื้อหาที่ถูกห้ามในนโยบายเนื้อหาของเรา
Endpoint นี้ได้รับการฝึกฝนให้ทำงานได้อย่างรวดเร็ว แม่นยำ และมีประสิทธิภาพในหลากหลายแอปพลิเคชัน ซึ่งช่วยลดโอกาสที่ผลิตภัณฑ์ AI จะกล่าวข้อความที่ไม่ถูกต้อง แม้ว่าจะนำไปใช้งานกับผู้ใช้ในระดับขนาดใหญ่ก็ตาม
การนี้ทำให้ AI สามารถปลดล็อกประโยชน์ในบริบทที่ละเอียดอ่อน เช่น การศึกษา ซึ่งก่อนหน้านี้อาจไม่สามารถใช้งานได้อย่างมั่นใจ
ผู้เขียน
Todor Markov, Chong Zhang, Sandhini Agarwal, Tyna Eloundou, Teddy Lee, Steven Adler, Angela Jiang, Lilian Weng
ที่มา: OpenAI