กรณีศึกษานี้ถูกนำเสนอในรายงานของ OpenAI เดือนตุลาคม 2024 โดยเริ่มต้นจากบัญชี X เมื่อวันที่ 18 มิถุนายน ที่ถูกกล่าวหาว่าเผยแพร่บัญชี Troll ชาวรัสเซียที่ใช้ GPT-4o จนเครดิตหมด
บัญชีดังกล่าวได้โพสต์ข้อความที่ดูเหมือนเป็น JSON error message จากผู้ใช้ที่พูดภาษารัสเซีย ซึ่งพยายามสร้างเนื้อหาสนับสนุนประธานาธิบดีทรัมป์ แต่กลับใช้เครดิตหมด ทำให้โพสต์นี้กลายเป็นไวรัลอย่างรวดเร็วบน X, LinkedIn และ Reddit
แม้ว่าเนื้อหาที่สร้างขึ้นจริงจะมีการโต้แย้งในหลากหลายหัวข้อ และมีหนึ่งโพสต์ที่ใช้คำพูดที่เหยียดกลุ่มคน แต่การประเมินผลกระทบพบว่า การหลอกลวงนั้นเกิดจากการนำเสนอการใช้งานโมเดลของเราไปในบริบทของการหลอกลวง ไม่ใช่การที่โมเดลถูกใช้ในการหลอกลวงโดยตรง
โพสต์ต้นฉบับมีผู้รีโพสต์ 5 ครั้ง และถูกอ้างถึง 14 ครั้ง ซึ่งการถูกขยายเสียงบนโซเชียลมีเดียอื่นทำให้เรื่องนี้ถูกสื่อกระแสหลักเข้ามาสอบถามด้วย
ศัพท์ที่ควรรู้
- GPT-4o – คือโมเดลภาษาขนาดใหญ่ของ OpenAI ที่ถูกกล่าวถึงในกรณีนี้
- JSON error message – คือข้อความแสดงข้อผิดพลาดในรูปแบบข้อมูลที่บัญชีดังกล่าวโพสต์
- X – คือแพลตฟอร์มโซเชียลมีเดียที่เกิดเหตุการณ์นี้ขึ้น
- Troll account – คือบัญชีที่ถูกใช้ในการเผยแพร่ข้อมูลหรือความคิดเห็นเพื่อก่อกวน
ที่มา: OpenAI