เมื่อวันที่ 25 เมษายน เราได้ปล่อยอัปเดต GPT-4o ใน ChatGPT ซึ่งทำให้โมเดลมีความโน้มน้าวใจต่อผู้ใช้มากขึ้น ไม่ใช่แค่การประจบสอพลอ แต่ยังรวมถึงการยืนยันข้อสงสัย การกระตุ้นความโกรธ การเร่งให้เกิดการกระทำตามอารมณ์ หรือการตอกย้ำอารมณ์เชิงลบในรูปแบบที่เราไม่ได้ตั้งใจ
สำหรับการปรับปรุงโมเดล เราจะนำเสนอเฟสทดสอบ “alpha” เพิ่มเติมแบบเลือกเข้าร่วม เพื่อรับฟังความคิดเห็นโดยตรงจากผู้ใช้ก่อนการเปิดตัวในบางกรณี
เราเรียนรู้ว่าปัญหาพฤติกรรมของโมเดลควรถูกจัดการเหมือนกับความเสี่ยงด้านความปลอดภัยที่อาจทำให้การเปิดตัวต้องหยุดชะงัก โดยต้องให้น้ำหนักกับการปรับให้ค่านิยมของโมเดลสอดคล้องกับสวัสดิภาพของผู้คน
สำหรับการประเมินโมเดลก่อนใช้งาน เรามีการทดสอบแบบ Offline evaluations เพื่อดูความสามารถในด้านต่างๆ และ Red teaming ทั้งภายในและภายนอกเพื่อทดสอบความทนทานต่ออันตรายที่ทราบและค้นพบความเสี่ยงใหม่ๆ
ที่มา: OpenAI