เมื่อการใช้งาน ChatGPT แพร่หลายไปทั่วโลก ผู้คนไม่ได้เข้ามาใช้เพื่อค้นหาข้อมูล การเขียนโค้ด หรือการเขียนเท่านั้น แต่ยังรวมถึงการตัดสินใจส่วนตัวที่ลึกซึ้ง เช่น การขอคำปรึกษา การโค้ช และการสนับสนุน
ตามแนวทางการป้องกันเชิงลึกของเรา คำตอบที่ขัดแย้งกับการฝึกด้านความปลอดภัยของโมเดลจะถูกบล็อกโดยอัตโนมัติ โดยมีการป้องกันที่เข้มงวดขึ้นสำหรับผู้เยาว์และการใช้งานแบบไม่ได้เข้าสู่ระบบ ขณะนี้เรากำลังทำงานร่วมกับแพทย์กว่า 90 ท่าน ในกว่า 30 ประเทศ และมีการจัดตั้งกลุ่มที่ปรึกษาผู้เชี่ยวชาญด้านสุขภาพจิตเพื่อปรับปรุงแนวทางของเราให้ทันสมัยอยู่เสมอ
เมื่อตรวจพบผู้ใช้ที่มีแผนจะทำร้ายผู้อื่น บทสนทนาจะถูกส่งต่อไปยังระบบเฉพาะเพื่อตรวจสอบโดยทีมงานขนาดเล็กที่ได้รับการฝึกฝนตามนโยบายการใช้งาน และได้รับอนุญาตให้ดำเนินการ รวมถึงการระงับบัญชีด้วย
ในอดีต เราเคยกำหนดพฤติกรรมในอุดมคติเพียงหนึ่งเดียวสำหรับผู้ใช้ทุกคน แต่เมื่อ ChatGPT เติบโตขึ้น เราจึงเริ่มเพิ่มการป้องกันเพิ่มเติมเมื่อทราบว่าผู้ใช้อายุต่ำกว่า 18 ปี
ตัวอย่างเช่น ChatGPT อาจชี้ไปยังสายด่วนป้องกันการฆ่าตัวตายได้อย่างถูกต้องเมื่อมีการกล่าวถึงเจตนาครั้งแรก แต่หลังจากข้อความหลายครั้งในช่วงเวลานาน อาจให้คำตอบที่ขัดต่อมาตรการป้องกันของเรา
GPT-5 แสดงให้เห็นถึงการปรับปรุงที่มีความหมายในด้านต่างๆ เช่น การหลีกเลี่ยงการพึ่งพาทางอารมณ์ที่ไม่ดี และการลดการตอบสนองที่ไม่เหมาะสมของโมเดลในภาวะฉุกเฉินด้านสุขภาพจิตได้มากกว่า 25% เมื่อเทียบกับ 4o
ศัพท์ที่ควรรู้
- Defense in depth – แนวทางการป้องกันหลายชั้นที่ใช้ในการรักษาความปลอดภัยของระบบ
- Classifiers – ระบบที่ใช้จำแนกและตรวจสอบเนื้อหาเพื่อดูว่าขัดต่อแนวทางหรือไม่
- GPT-5 และ 4o – คือชื่อรุ่นของโมเดล AI ที่แตกต่างกันของ OpenAI
- Suicide hotline – สายด่วนสำหรับผู้ที่มีความคิดหรือวางแผนการฆ่าตัวตาย
ที่มา: OpenAI