Trusted Contact ถูกสร้างขึ้นบนพื้นฐานของระบบควบคุมโดยผู้ปกครอง ซึ่งช่วยให้ผู้ปกครองหรือผู้ดูแลสามารถรับการแจ้งเตือนเมื่อตรวจพบสัญญาณของภาวะวิกฤตเฉียบพลันในบัญชีของวัยรุ่นที่เชื่อมโยง แม้ว่าไม่มีระบบใดสมบูรณ์แบบ แต่ทุกการแจ้งเตือนจะผ่านการตรวจสอบจากมนุษย์ที่ผ่านการฝึกฝนก่อนส่ง และตั้งเป้าหมายว่าจะตรวจสอบการแจ้งเตือนด้านความปลอดภัยเหล่านี้ให้เสร็จสิ้นภายในหนึ่งชั่วโมง
การพัฒนานี้ยังได้รับความร่วมมือจากองค์กรภายนอก รวมถึง American Psychological Association โดยทีมงานได้ทำงานร่วมกับผู้เชี่ยวชาญด้านสุขภาพจิตกว่า 170 คน เพื่อปรับปรุงความสามารถของ ChatGPT ในการตรวจจับและตอบสนองต่อสัญญาณของความทุกข์ทรมาน รวมถึงการให้คำแนะนำในการติดต่อบริการฉุกเฉินหรือผู้เชี่ยวชาญเมื่อจำเป็น
นอกจากการแจ้งเตือนแล้ว ระบบยังสนับสนุนการช่วยเหลือในโลกแห่งความเป็นจริง เช่น การแนะนำให้ติดต่อสายด่วนสุขภาพจิต หรือการแนะนำให้ผู้ใช้พักการใช้งานเพื่อส่งเสริมสุขนิสัยที่ดีในการใช้เทคโนโลยี
Trusted Contact เป็นส่วนหนึ่งของความพยายามที่กว้างขึ้นของ OpenAI ในการสร้างระบบ AI ที่สามารถช่วยเหลือผู้คนในช่วงเวลาที่ยากลำบาก และจะยังคงทำงานร่วมกับนักวิชาการและผู้กำหนดนโยบายเพื่อปรับปรุงการตอบสนองของ AI ต่อภาวะความทุกข์ทรมานของผู้ใช้ต่อไป
ศัพท์ที่ควรรู้
- Trusted Contact – ระบบที่ช่วยให้ผู้ปกครองสามารถรับการแจ้งเตือนเกี่ยวกับสถานะทางอารมณ์ของผู้ใช้ที่เชื่อมโยงใน ChatGPT
- Acute distress – ภาวะวิกฤตเฉียบพลัน หมายถึงสภาวะทางอารมณ์ที่รุนแรงและต้องการการช่วยเหลืออย่างเร่งด่วน
- American Psychological Association – องค์กรภายนอกที่ให้คำปรึกษาและร่วมมือในการพัฒนาระบบนี้
- De-escalate conversations – การลดระดับความตึงเครียดในการสนทนา เพื่อให้สถานการณ์ไม่บานปลาย
ที่มา: OpenAI