บริษัทฯ มุ่งมั่นที่จะทำการทดสอบเชิงรุก (red-teaming) ทั้งภายในและภายนอกสำหรับโมเดลและระบบ เพื่อประเมินความเสี่ยงต่างๆ เช่น การนำไปใช้ในทางที่ผิด ความเสี่ยงทางสังคม และประเด็นด้านความมั่นคงของชาติ เช่น ชีวภาพและไซเบอร์
บริษัทฯ จะร่วมมือกับเวทีหรือกลไกต่างๆ เพื่อพัฒนาและยอมรับมาตรฐานและแนวปฏิบัติที่ดีที่สุดสำหรับ AI ขั้นสูง เช่นเดียวกับ NIST AI Risk Management Framework เพื่อจัดการกับความเสี่ยงทางสังคม เช่น อคติและการเลือกปฏิบัติ
การทดสอบเหล่านี้จะต้องรายงานผลการประเมินด้านความปลอดภัย ข้อจำกัดด้านประสิทธิภาพ และผลการทดสอบเชิงรุกที่ดำเนินการ เพื่อให้เห็นถึงความเหมาะสมในการนำไปใช้งาน
บริษัทฯ ให้ความสำคัญกับการวิจัยเพื่อลดอคติที่เป็นอันตรายและการคุ้มครองความเป็นส่วนตัว และมุ่งมั่นที่จะสนับสนุนการวิจัยและพัฒนา AI ขั้นสูงเพื่อช่วยรับมือกับความท้าทายใหญ่ของสังคม เช่น การบรรเทาการเปลี่ยนแปลงสภาพภูมิอากาศและการต่อสู้กับภัยคุกคามทางไซเบอร์
ศัพท์ที่ควรรู้
- Red-teaming – การทดสอบเชิงรุกโดยการจำลองการโจมตีเพื่อค้นหาจุดอ่อนของระบบ
- Frontier AI – ระบบ AI ขั้นสูงที่มีศักยภาพในการแก้ไขปัญหาสังคมที่ซับซ้อน
- NIST AI Risk Management Framework – กรอบการทำงานที่ช่วยในการบริหารจัดการความเสี่ยงของ AI ตามมาตรฐาน NIST
- Bias – อคติที่อาจเกิดขึ้นในระบบ AI ซึ่งนำไปสู่การเลือกปฏิบัติ
- Societal risks – ความเสี่ยงที่เกิดจาก AI ซึ่งส่งผลกระทบต่อสังคมในวงกว้าง
ที่มา: OpenAI