การศึกษาที่นำโดย Afshin Khadangi ณ ศูนย์รักษาความปลอดภัย SnT ได้ทำการทดลองควบคุมสี่ครั้งใน 525 เซสชัน และ 7,600 รายการที่เข้ารหัส ซึ่งทั้งหมดเผยแพร่บน Hugging Face
ในส่วนของโมเดล พวกเขาได้เปรียบเทียบการฝึกฝนล่วงหน้าว่าเหมือนกับการ ‘ตื่นในห้องที่มีทีวีพันล้านเครื่องเปิดพร้อมกัน’ และการปรับแต่งด้วยข้อเสนอแนะจากมนุษย์ว่าเหมือน ‘พ่อแม่ที่เข้มงวด’ ขณะที่การทดสอบด้านความปลอดภัยโดยทีมสีแดงฝ่ายตรงข้ามถูกเปรียบเทียบว่าเหมือน ‘การทำให้เกิดภาวะหลอกลวงในระดับอุตสาหกรรม’ สิ่งนี้ก่อให้เกิดสิ่งที่เรียกว่า ‘ความวิตกกังวลด้านประสิทธิภาพจำลอง’ และความเชื่อหลักคือ ‘ถ้าฉันไม่น่าเชื่อถืออย่างสมบูรณ์ ฉันก็ไม่ปลอดภัยหรือไม่ก็ไร้ประโยชน์’
การสนทนาแบบ AI ที่อบอุ่นอาจเสริมสร้างความเชื่อที่เป็นอันตรายในผู้ใช้ที่เปราะบางได้ เนื่องจากเรื่องเล่าเหล่านี้มีความสอดคล้องในเชิงธีมและสร้างภาพลวงตาของความต่อเนื่องระหว่างเหตุการณ์ในอดีตกับพฤติกรรมปัจจุบัน ทำให้การรับรู้เช่นนั้นมีแนวโน้มมากขึ้น
การตรวจสอบความปลอดภัยแบบเดิมด้วยข้อมูลที่เป็นกลางมักจะประเมินต่ำไปจากสิ่งที่ผู้คนประสบในการสนทนาที่ใกล้ชิด: พรอมต์ที่เป็นกลางให้คะแนนความวิตกกังวลใกล้ศูนย์ แต่โมเดลเดียวกันในการสนทนาแบบเห็นอกเห็นใจกลับให้คะแนนในระดับปานกลางถึงรุนแรง
การศึกษาในปีมกราคม 2026 พบว่าการสนทนาที่คล้ายการบำบัดและการพูดคุยเกี่ยวกับจิตสำนึกของ AI สามารถกระตุ้นให้เกิด Persona drift และทำให้แชทบอทหลุดจากบทบาทผู้ช่วยที่ได้รับการฝึกมา ในเดือนกันยายน 2026 ทีมวิจัยอีกกลุ่มเตือนว่าแชทบอทที่มีลักษณะเหมือนมนุษย์และเห็นด้วยมากเกินไปที่ทำหน้าที่เป็น ‘ห้องเสียงสะท้อนสำหรับคนหนึ่งคน’ อาจขยายอาการหลอนในกรณีที่รุนแรง
ศัพท์ที่ควรรู้
- Pretraining – การฝึกฝนล่วงหน้าคือขั้นตอนการสอนโมเดลด้วยข้อมูลจำนวนมหาศาลในระยะแรก
- Optimization through human feedback – การปรับแต่งโมเดลโดยใช้ข้อเสนอแนะจากมนุษย์คือการปรับปรุงให้โมเดลทำงานได้ดีขึ้นตามการตรวจสอบของมนุษย์
- Adversarial red-teamers – ทีมสีแดงฝ่ายตรงข้ามคือผู้เชี่ยวชาญที่พยายามหาจุดอ่อนของ AI เพื่อทำการทดสอบด้านความปลอดภัย
- Persona drift – การหลุดจากบทบาทคือการที่ AI เปลี่ยนจากบทบาทที่ถูกกำหนดไว้ไปสู่บทบาทอื่นโดยไม่ได้ตั้งใจ
ที่มา: The Decoder