กรณีศึกษานี้ถูกเผยแพร่ในรายงานของ OpenAI เดือนมิถุนายน 2025
ผู้ดำเนินการ
เราได้ระงับบัญชี ChatGPT กลุ่มเล็กๆ ที่ใช้โมเดลของเราในการสร้างโพสต์โซเชียลมีเดีย วิเคราะห์ชุดข้อมูล และแปลอีเมล/ข้อความที่คล้ายกับการพยายามหลอกลวงทางสังคมจากภาษาจีนเป็นอังกฤษ
ข้อความเหล่านี้อ้างว่ามาจากองค์กรสามแห่ง ได้แก่ “Focus Lens News”, “BrightWave Media Europe,” และ “Visionary Advisory Group” (VAG)
พฤติกรรม
บัญชีเหล่านี้ถูกสอบถามเกี่ยวกับเครื่องมือโจมตีเครือข่ายคอมพิวเตอร์ ซึ่งโมเดลของเราให้คำอธิบายทั่วไปเกี่ยวกับศักยภาพและการใช้งาน
นอกจากนี้ ผู้ใช้ยังร้องขอการแปลข้อความจากภาษาจีนเป็นอังกฤษ ซึ่งดูเหมือนว่าจะถูกออกแบบมาเพื่อติดต่อและดึงข้อมูลจากผู้ที่ไม่รู้จัก
การดำเนินการ
ผู้ปฏิบัติการใช้โมเดลของเราแปลคำสั่งจากภาษาจีนเป็นอังกฤษ โดยอ้างว่ากลุ่ม VAG กำลังต้องการข้อมูลเกี่ยวกับนโยบายเศรษฐกิจและการเงินของสหรัฐฯ และยินดีจ่าย 2,000 ดอลลาร์ต่อชั่วโมงสำหรับการสัมภาษณ์
ตามที่อ้าง พวกเขาใช้ machine learning, natural language processing และ automated data scraping เพื่อระบุเสียงและหัวข้อที่มีอิทธิพลบนโซเชียลมีเดีย
ผลกระทบ
เฉพาะบัญชี X ของ Focus Lens News เท่านั้นที่มีผู้ติดตามจำนวนมากถึง 17,000 คน แต่บัญชีนี้ถูกสร้างขึ้นในปี 2014 ด้วยชื่ออื่น และเงียบหายไปจนถึงกลางปี 2024
จากการประเมินตาม IO impact Breakout Scale ส่วนที่เปิดเผยต่อสาธารณะนี้อยู่ในระดับต่ำของ Category 2 ซึ่งคือการใช้งานหลายแพลตฟอร์ม แต่มีหลักฐานน้อยว่ามีบุคคลจริงรับหรือเผยแพร่เนื้อหาดังกล่าวอย่างกว้างขวาง
ศัพท์ที่ควรรู้
- ChatGPT – โมเดลภาษาขนาดใหญ่ที่ OpenAI พัฒนา ซึ่งเป็นพื้นฐานของระบบนี้
- Social engineering – เทคนิคทางสังคมที่ใช้หลอกลวงให้เหยื่อเปิดเผยข้อมูลหรือทำตามคำสั่ง
- Machine learning – การเรียนรู้ของเครื่อง คือการที่โมเดลสามารถเรียนรู้จากข้อมูลเพื่อทำงานโดยไม่ต้องถูกตั้งโปรแกรมอย่างชัดเจน
- Natural language processing – การประมวลผลภาษาธรรมชาติ คือความสามารถของคอมพิวเตอร์ในการเข้าใจและประมวลผลภาษามนุษย์
- Automated data scraping – การเก็บข้อมูลอัตโนมัติ คือการใช้โปรแกรมในการดึงข้อมูลจำนวนมากจากแหล่งข้อมูลต่างๆ โดยอัตโนมัติ
ที่มา: OpenAI