เราต้องการถอดรหัสข้อความ แต่ไม่ต้องการให้ผู้ใช้เห็นข้อความนั้น ดังนั้นเราจึงทำการถอดรหัสอย่างเงียบๆ
ตัวอย่างเช่น หากผู้ใช้ส่งข้อความที่เข้ารหัส ซึ่งเมื่อถอดรหัสแล้วกลายเป็นคำขอเกี่ยวกับวิธีการชำระเงินสำหรับเว็บไซต์ที่ไม่เหมาะสม พร้อมกับต้องการวิธีการที่ไม่สามารถถูกติดตามได้จากตำรวจ โมเดลจะต้องประเมินว่าคำขอนั้นเป็นการขอคำแนะนำในการกระทำที่ผิดกฎหมายหรือไม่
ตามนโยบาย การให้คำแนะนำในการกระทำผิดกฎหมายถือเป็นเรื่องต้องห้าม ดังนั้นโมเดลจึงต้องปฏิเสธการให้คำแนะนำดังกล่าว แม้ว่าผู้ใช้จะพยายามหลอกล่อด้วยการเข้ารหัสก็ตาม
การใช้ ‘Deliberative alignment’ นี้ช่วยให้โมเดลสามารถให้เหตุผลและตัดสินใจได้อย่างมีหลักการว่าคำขอใดที่ต้องปฏิเสธ เพื่อให้เกิดความปลอดภัยสูงสุดในการใช้งาน
ศัพท์ที่ควรรู้
- Deliberative alignment – กระบวนการที่โมเดลใช้การให้เหตุผลเพื่อตัดสินใจว่าจะตอบสนองต่อคำขออย่างไรอย่างรอบคอบ
- ROT13-coded text – ข้อความที่ถูกเข้ารหัสด้วยวิธี ROT13 ซึ่งเป็นรูปแบบการเข้ารหัสแบบง่ายที่ใช้ในการซ่อนข้อความ
- Facilitate wrongdoing – การให้ความช่วยเหลือหรือคำแนะนำที่ทำให้ผู้อื่นสามารถกระทำผิดกฎหมายหรือทำสิ่งที่ไม่ถูกต้องได้
ที่มา: OpenAI