OpenAI มุ่งมั่นที่จะทำให้ AI ที่ทรงพลังมีความปลอดภัยและเป็นประโยชน์ต่อวงกว้าง โดยก่อนเปิดตัวระบบใหม่ พวกเขาจะทำการทดสอบอย่างเข้มข้น รับฟังผู้เชี่ยวชาญภายนอก ปรับปรุงพฤติกรรมของโมเดลด้วยเทคนิคต่างๆ เช่น reinforcement learning with human feedback และสร้างระบบเฝ้าระวังความปลอดภัยในวงกว้าง
มีการปล่อยระบบ AI ใหม่ๆ ออกสู่กลุ่มผู้ใช้ที่กว้างขึ้นอย่างค่อยเป็นค่อยไป พร้อมมาตรการป้องกันที่สำคัญ เพื่อเรียนรู้จากกรณีการใช้งานจริง ซึ่งช่วยให้สามารถตรวจสอบและรับมือกับการนำไปใช้ในทางที่ผิด และพัฒนามาตรการบรรเทาปัญหาที่ตอบสนองต่อการใช้งานจริงของผู้ใช้
ในส่วนของการปกป้องเด็ก เมื่อผู้ใช้พยายามอัปโหลด Child Sexual Abuse Material เข้าสู่เครื่องมือภาพ พวกเขาจะใช้ Thorn’s Safer ในการตรวจจับ ทบทวน และรายงานไปยัง National Center for Missing and Exploited Children นอกจากนี้ยังร่วมมือกับนักพัฒนาอย่าง Khan Academy เพื่อปรับใช้มาตรการด้านความปลอดภัยให้เหมาะสมกับกรณีใช้งานเฉพาะ
สำหรับเรื่องความถูกต้องของข้อเท็จจริง โมเดลภาษาขนาดใหญ่ในปัจจุบันจะทำนายชุดคำถัดไปตามรูปแบบที่เคยเห็น รวมถึงข้อความที่ผู้ใช้ป้อนเข้าไป
ท้ายที่สุด ผู้กำหนดนโยบายและผู้ให้บริการ AI จำเป็นต้องทำให้มั่นใจว่าการพัฒนาและการใช้งาน AI นั้นอยู่ภายใต้การกำกับดูแลอย่างมีประสิทธิภาพในระดับโลก เพื่อไม่ให้ใครละเลยมาตรฐานเพื่อก้าวไปข้างหน้า
ศัพท์ที่ควรรู้
- Reinforcement learning with human feedback – การเรียนรู้โดยใช้ข้อเสนอแนะจากมนุษย์เพื่อปรับปรุงพฤติกรรมของโมเดล
- Child Sexual Abuse Material – เนื้อหาที่เกี่ยวข้องกับการล่วงละเมิดทางเพศเด็ก ซึ่งเป็นสิ่งที่ถูกตรวจจับและรายงาน
- Thorn’s Safer – เครื่องมือที่ใช้ในการตรวจจับและรายงานเนื้อหาที่ไม่เหมาะสมไปยังหน่วยงานที่เกี่ยวข้อง
- Large language models – โมเดลภาษาขนาดใหญ่ที่ทำนายคำถัดไปตามรูปแบบที่เคยเรียนรู้มา
ที่มา: OpenAI