OpenAI ได้เผยแพร่นโยบายด้านความปลอดภัยที่อิงตาม Prompt เพื่อช่วยให้นักพัฒนาสามารถสร้างการป้องกันที่เหมาะสมกับช่วงวัยสำหรับวัยรุ่นได้
การพัฒนานี้ได้รับข้อมูลจากผู้เชี่ยวชาญภายนอก ซึ่งช่วยกำหนดขอบเขตเนื้อหา เสริมโครงสร้างของ Prompt และปรับปรุงกรณีขอบ (edge cases) ต่างๆ ให้ครอบคลุมมากขึ้น
อย่างไรก็ตาม พวกเขาเน้นย้ำว่านี่เป็นเพียงจุดเริ่มต้น และนักพัฒนาควรปรับใช้และขยายขอบเขตของนโยบายเหล่านี้ให้เข้ากับความต้องการเฉพาะของตนเอง ผสานรวมกับมาตรการป้องกันอื่นๆ เช่น การออกแบบผลิตภัณฑ์ การควบคุมของผู้ใช้ และระบบการตรวจสอบ เพื่อให้เกิดการป้องกันแบบหลายชั้น (layered defense in depth)
ผู้ที่สนใจสามารถให้ข้อเสนอแนะหรือดูนโยบายเพิ่มเติมได้ที่ GitHub repository ของ RMC
ศัพท์ที่ควรรู้
- Prompt-based safety policies – นโยบายด้านความปลอดภัยที่ขึ้นอยู่กับข้อความนำเข้า (Prompt) ซึ่งใช้ในการควบคุมการทำงานของ AI
- Edge cases – กรณีขอบ คือ สถานการณ์เฉพาะหรือสถานการณ์สุดขั้วที่อาจเกิดขึ้นในการใช้งาน AI ซึ่งต้องมีการพิจารณาเป็นพิเศษ
- Layered defense in depth – แนวทางการป้องกันหลายชั้น คือ การใช้มาตรการป้องกันหลายระดับประกอบกันเพื่อเพิ่มความปลอดภัยของระบบ
ที่มา: OpenAI