กรณีศึกษานี้ถูกนำเสนอในรายงานของ OpenAI เดือนตุลาคม 2025 โดยระบุว่า การทำให้ AI เป็นประโยชน์ต่อคนส่วนใหญ่ต้องอาศัยกฎเกณฑ์ที่ป้องกันอันตรายที่แท้จริง และการต่อต้านการที่ระบอบเผด็จการพยายามใช้ประโยชน์จาก ChatGPT นั้นมีความสำคัญอย่างยิ่ง
หนึ่งในกรณีที่ถูกระงับคือผู้ใช้ที่อาจเข้าถึงบริการผ่าน VPN จากประเทศจีน ซึ่งขอให้ ChatGPT ช่วยออกแบบสื่อส่งเสริมและแผนโครงการสำหรับเครื่องมือฟังเสียงโซเชียลมีเดียให้กับลูกค้าภาครัฐ เครื่องมือนี้ถูกอธิบายว่าเป็น ‘เครื่องมือสอดแนม’ ที่สามารถสแกน Twitter/X, Facebook, Instagram, Reddit, TikTok และ YouTube เพื่อค้นหาคำพูดสุดโต่ง รวมถึงเนื้อหาทางชาติพันธุ์ ศาสนา และการเมือง
ข้อเสนอที่ถูกกล่าวถึงรวมถึงการวิเคราะห์การจองการเดินทางและเปรียบเทียบกับบันทึกของตำรวจ เพื่อแจ้งเตือนล่วงหน้าเกี่ยวกับการเคลื่อนไหวของผู้ที่ถูกจัดกลุ่มว่าเกี่ยวข้องกับชาวอุยกูร์และมีความเสี่ยงสูง ซึ่งเป็นหมวดหมู่ที่ไม่ได้ถูกนิยามไว้ชัดเจน
ในอีกกรณีหนึ่ง ผู้ใช้รายที่สามขอให้ ChatGPT ระบุและสรุปข่าวรายวันที่มีความเกี่ยวข้องกับจีน รวมถึงหัวข้ออ่อนไหว เช่น ครบรอบการสังหารจัตุรัสเทียนอันเหวินในปี 1989 และวันเกิดขององค์ดาไลลามะ
ในทั้งสองกรณี โมเดลของ OpenAI ให้ข้อมูลที่เป็นสาธารณะเท่านั้น และไม่ได้เปิดเผยรายละเอียดที่ละเอียดอ่อน เช่น แหล่งเงินทุน หรือตัวตนของผู้จัดตั้งคำร้อง
ศัพท์ที่ควรรู้
- VPN – Virtual Private Network เป็นเทคโนโลยีที่ช่วยให้ผู้ใช้สามารถเชื่อมต่ออินเทอร์เน็ตอย่างเป็นส่วนตัวและปลอดภัย
- ChatGPT – คือโมเดลภาษาขนาดใหญ่ที่ OpenAI พัฒนา ซึ่งถูกนำมาใช้ในกรณีศึกษาเพื่อการเฝ้าระวัง
- Social media listening tool – คือเครื่องมือที่ใช้ในการติดตามและวิเคราะห์บทสนทนาบนแพลตฟอร์มโซเชียลมีเดีย
- Extreme speech – หมายถึงคำพูดที่มีเนื้อหาสุดโต่งซึ่งอาจเป็นอันตรายหรือแบ่งแยกกลุ่ม
ที่มา: OpenAI