OpenAI ได้เปิดตัวโปรแกรม Safety Bug Bounty อย่างเป็นทางการ เพื่อมุ่งเน้นการระบุความเสี่ยงด้าน AI และการใช้งานในทางที่ผิดในผลิตภัณฑ์ของบริษัท เพื่อให้มั่นใจว่าระบบยังคงปลอดภัยจากความเสียหายที่อาจเกิดขึ้นจากการถูกนำไปใช้ในทางที่ผิด
โปรแกรมใหม่นี้จะทำงานควบคู่ไปกับ Security Bug Bounty โดยรับรายงานปัญหาที่ก่อให้เกิดความเสี่ยงด้านการใช้งานในทางที่ผิดและความปลอดภัย แม้ว่าปัญหาเหล่านั้นอาจไม่ตรงตามเกณฑ์ของช่องโหว่ด้านความปลอดภัยแบบดั้งเดิมก็ตาม
โปรแกรมนี้เน้นไปที่สถานการณ์เฉพาะของ AI เช่น Agentic Risks ซึ่งรวมถึงการโจมตีด้วย Prompt Injection จากบุคคลที่สาม และ Account and Platform Integrity เช่น การหลีกเลี่ยงการควบคุมต่อต้านระบบอัตโนมัติ
หากนักวิจัยพบข้อบกพร่องที่นำไปสู่การทำอันตรายต่อผู้ใช้โดยตรงและมีขั้นตอนการแก้ไขที่ชัดเจน อาจได้รับการพิจารณาสำหรับรางวัลในแต่ละกรณี
ศัพท์ที่ควรรู้
- Safety Bug Bounty – โปรแกรมที่เปิดรับรายงานเกี่ยวกับความเสี่ยงด้านความปลอดภัยและการใช้งานในทางที่ผิดของ AI
- Agentic Risks – ความเสี่ยงที่เกิดจากการที่ AI Agent ถูกควบคุมโดยผู้โจมตี เช่น การถูกหลอกให้ทำอันตรายหรือรั่วไหลข้อมูล
- MCP – Third party prompt injection – การที่ข้อความจากบุคคลที่สามสามารถเข้าควบคุม Agent ของเหยื่อได้
- Account and Platform Integrity – ความสมบูรณ์ของบัญชีและแพลตฟอร์ม เช่น การหลบเลี่ยงการจำกัดบัญชี
ที่มา: OpenAI