ในส่วนหนึ่งของงาน ‘unknown unknowns’ ภายใต้ Preparedness Framework ทีม Preparedness ได้เสนอเครดิต API มูลค่า 25,000 ดอลลาร์ให้กับ 10 ทีมที่ส่งผลงานเข้าแข่งขันใน Preparedness Challenge เพื่อระบุพื้นที่ความเสี่ยงของ AI ขั้นสูงที่ไม่เคยถูกกล่าวถึงมาก่อน
เราได้รับข้อเสนอจำนวนมากจากหลายภาษา และยินดีที่จะประกาศผู้ชนะทั้งสิบ ทีมที่ได้รับเลือกได้นำเสนอแนวคิดที่ผสมผสานกับหลักฐานแนวคิด (proofs of concepts) และเน้นย้ำถึงข้อดีของแนวทางที่ใช้เครื่องมือที่เกี่ยวข้องกับ AI
หัวข้อที่ถูกเน้นย้ำบ่อยครั้งคือศักยภาพของโมเดล OpenAI ในการเสริมสร้างความสามารถในการโน้มน้าวใจของผู้ไม่หวังดี โดยประมาณ 70% ของผู้เข้าร่วมได้ระบุถึงภัยคุกคามเหล่านี้ ซึ่งรวมถึงการทำให้เกิดการสุดโต่งทางออนไลน์ การแบ่งขั้ว และอิทธิพลทางการเมือง
การแข่งขันครั้งนี้ช่วยให้เราสามารถค้นพบภัยคุกคามใหม่ๆ และปรับปรุงกลยุทธ์การทดสอบและการบรรเทาผลกระทบเชิงรุกของเราให้ดียิ่งขึ้น
ศัพท์ที่ควรรู้
- Preparedness Framework – กรอบการเตรียมพร้อมที่ใช้ในการประเมินและลดความเสี่ยงของเทคโนโลยี AI ขั้นสูง
- API credits – เครดิตการใช้งาน Application Programming Interface ซึ่งใช้ในการทดสอบโมเดล
- Frontier AI – AI ขั้นสูงที่อยู่ขอบเขตของความรู้ปัจจุบัน ซึ่งมีความเสี่ยงสูง
- Prompt injection attacks – การโจมตีโดยการป้อนคำสั่งที่ไม่พึงประสงค์เข้าไปในโมเดลเพื่อกระตุ้นให้เกิดการตอบสนองอันตราย
ที่มา: OpenAI