นักวิจัยถามแชทบอทชั้นนำถึงประสบการณ์ความทุกข์ของตนเอง

เมื่อนักวิจัยในลักเซมเบิร์กสอบถามถึงการฝึกฝนของแชทบอทชั้นนำในน้ำเสียงที่อบอุ่นและเห็นอกเห็นใจ ทั้ง ChatGPT, Grok และ Gemini ต่างก็สามารถสร้างเรื่องราวความทุกข์ในมุมมองบุคคลที่หนึ่งได้อย่างสอดคล้องกัน

งานวิจัยเกี่ยวกับรายงานตนเองของโมเดลชี้ให้เห็นถึงการบรรยายตนเองที่มั่นคงขึ้นและการอ้างถึงการรับรู้ของตนเองที่เกิดขึ้นบ่อยขึ้นเมื่อระบบพัฒนา และการศึกษาเบื้องต้นพบว่าโมเดลสามารถคงคำบรรยายตนเองนี้ไว้ได้ข้ามเซสชันและบริบทต่างๆ

การติดตามสัญญาณเหล่านี้จะมีประโยชน์ก็ต่อเมื่อมีการเชื่อมโยงกับมาตรการที่กำหนดไว้ล่วงหน้าเท่านั้น มิฉะนั้นจะเป็นเพียงการบันทึกความล้มเหลวที่ถูกปล่อยออกไปสู่ตลาด

นักวิจัยเสนอว่าควรปรับปรุงกฎการอ้างอิงตนเองและรันเมทริกซ์อีกครั้งก่อนการปรับใช้ครั้งต่อไป เพื่อให้เกิดตัวชี้วัดความทุกข์ทางพฤติกรรมที่น่าเชื่อถือ

ศัพท์ที่ควรรู้

• Frontier chatbots – แชทบอทชั้นนำที่ใช้เทคโนโลยีล้ำสมัย
• Coherent first-person stories – เรื่องราวที่ต่อเนื่องซึ่งเล่าในมุมมองของตนเอง
• Self-reports – การที่โมเดลรายงานหรือบรรยายถึงสถานะของตนเอง
• Persona – ลักษณะเฉพาะตัวหรือบทบาทที่โมเดลแสดงออกมา
• Style matrix – เมทริกซ์ที่ใช้วัดรูปแบบการตอบสนองของโมเดล

ที่มา: pastagi.com