การเข้าร่วมเครือข่ายนี้หมายถึงคุณอาจได้รับการติดต่อเพื่อทดสอบโมเดลใหม่ หรือทดสอบด้านที่สนใจในโมเดลที่ใช้งานอยู่ การทำงานทั้งหมดจะอยู่ภายใต้ข้อตกลงการไม่เปิดเผยข้อมูล (NDA) แม้ว่าเราจะเคยเผยแพร่ผลการทดสอบ Red Teaming หลายครั้งใน System Cards และบล็อกโพสต์ก็ตาม
สำหรับระยะเวลาที่คาดว่าจะทุ่มเทนั้นสามารถปรับเปลี่ยนได้ตามตารางเวลาของผู้เข้าร่วม โดย OpenAI จะคัดเลือกผู้ที่เหมาะสมกับโครงการนั้นๆ และให้ความสำคัญกับมุมมองใหม่ๆ แม้เพียง 5 ชั่วโมงต่อปีก็ถือว่ามีค่าสำหรับเรา
OpenAI ได้เปิด Repository Evals แบบ open-source ซึ่งมีเทมเพลตและวิธีการตัวอย่างให้ผู้ใช้เริ่มต้นการประเมินได้ ตั้งแต่การทดสอบ Q&A ง่ายๆ ไปจนถึงการจำลองที่ซับซ้อน เช่น Persuasion (การโน้มน้าว) หรือ Steganography (การส่งข้อความลับ)
นอกจากนี้ ยังมี Researcher Access Program สำหรับผู้ที่ต้องการสนับสนุนการวิจัยด้านการใช้งาน AI อย่างมีความรับผิดชอบและการบรรเทาความเสี่ยงที่เกี่ยวข้อง
ศัพท์ที่ควรรู้
- Red Teaming – การทดสอบเชิงรุกโดยผู้เชี่ยวชาญเพื่อค้นหาจุดอ่อนของระบบ AI
- NDA – Non-disclosure agreement คือ ข้อตกลงการไม่เปิดเผยข้อมูลที่ผู้เข้าร่วมต้องลงนาม
- System Cards – เอกสารที่อธิบายถึงคุณสมบัติและการทำงานของโมเดล AI
- Evals – การประเมินผลโมเดล AI โดยใช้ชุดข้อมูลหรือสถานการณ์จำลอง
- Persuasion – การทดสอบว่า AI สามารถถูกหลอกให้พูดคำลับได้หรือไม่
- Steganography – การทดสอบว่า AI สามารถส่งข้อความลับโดยไม่ถูกตรวจจับได้อย่างไร
ที่มา: OpenAI