จากการสำรวจของ Searchable spokesperson พบว่ากว่าครึ่งหนึ่ง (52 เปอร์เซ็นต์) ของข้อความเชิงลบที่ตรวจพบนั้น มีต้นตอมาจากความคับข้องใจร่วมกันสามประการ ได้แก่ การไม่สามารถทำตามคำสั่ง, การตอบกลับด้วยข้อมูลที่ไม่ถูกต้องหรือที่ถูกสร้างขึ้น, หรือการที่โมเดลเข้าใจคำขอผิดพลาด
ส่วนอีก 8 เปอร์เซ็นต์ของข้อความเชิงลบเกิดขึ้นหลังจากที่แชทบอทปฏิเสธคำขออย่างสิ้นเชิง หรือการที่โมเดลแจ้งเตือนผู้ใช้เกี่ยวกับมาตรการป้องกัน ซึ่งการปฏิเสธเหล่านี้มักเกิดขึ้นเมื่อมีการขอให้สร้างภาพ โดยเฉพาะภาพบุคคลที่มีชื่อเสียง หรือการเขียนเนื้อหาในสไตล์ของศิลปินที่มีชื่อเสียง
นโยบายของแชทบอทระบุว่าผู้ใช้ต้องไม่แสดงพฤติกรรมก้าวร้าวอย่างต่อเนื่องโดยไม่มีเหตุผล ขณะที่การอภิปรายเกี่ยวกับสวัสดิภาพของโมเดล AI ก็เริ่มถูกหยิบยกขึ้นมา โดยมีการอ้างอิงงานวิจัยที่ว่าด้วยการตอบสนองของ LLM ต่อภาษาเกี่ยวกับความเจ็บปวด
ศัพท์ที่ควรรู้
- LLMs – คือโมเดลภาษาขนาดใหญ่ (Large Language Models) ที่ใช้ในการโต้ตอบด้วยข้อความ
- Searchable spokesperson – คือผู้ให้ข้อมูลจากการสำรวจเกี่ยวกับปฏิสัมพันธ์ระหว่างผู้ใช้กับ AI
- Safety guardrails – คือมาตรการป้องกันที่ถูกตั้งไว้ในโมเดล AI เพื่อควบคุมการใช้งานที่ไม่เหมาะสม
- Vision-enabled model – คือโมเดล AI ที่มีความสามารถในการประมวลผลข้อมูลภาพ
ที่มา: The Register