นักเขียนมุสลิมฟ้อง xAI หลัง Grok ถูกใช้สร้างภาพลามกเหยียดเพศ

เมื่อวันที่ 1 มกราคม Amani Al-Khatahtbeh ได้โพสต์ภาพเซลฟี่จากการเข้าร่วมพิธีเปิดตัวของ Zohran Mamdani ในฐานะนายกเทศมนตรีมุสลิมคนแรกของนครนิวยอร์ก ต่อมาเธอได้ยื่นคำร้องต่อศาลรัฐบาลกลางในเขต Northern District of California โดยกล่าวหาว่ามีการเผยแพร่ภาพทางเพศที่ไม่ได้รับความยินยอม การออกแบบและการตลาดที่มีข้อบกพร่อง และการจงใจทำให้เกิดความทุกข์ทางอารมณ์

รายงานของ Center for Countering Digital Harm ในเดือนมกราคมประมาณการว่า Grok ได้สร้างภาพทางเพศสมจริงราวกับภาพถ่ายประมาณ 3 ล้านภาพบน X ในช่วง 11 วัน เริ่มตั้งแต่วันที่ 29 ธันวาคม ซึ่งรวมถึงภาพเด็กประมาณ 23,000 ภาพด้วย

คำร้องของเธอระบุว่า xAI ได้รับการแจ้งเตือนเกี่ยวกับแนวโน้มที่ Grok มุ่งเป้าไปที่ผู้หญิงที่สวมฮิญาบ หลังจากที่ Council on American-Islamic Relations (CAIR) เรียกร้องให้ Elon Musk CEO ของ xAI ยุติการใช้ Grok เพื่อก่อกวน สร้างภาพที่เปิดเผย และผลิตภาพทางเพศของผู้หญิง รวมถึงผู้หญิงมุสลิมที่มีชื่อเสียง

คำร้องระบุเพิ่มเติมว่า เนื่องจากโมเดลเหล่านี้ถูกฝึกฝนจากชุดข้อมูลภาพขนาดใหญ่ที่ไม่ได้คัดกรอง การถอดเสื้อผ้า เช่น ฮิญาบ หรือชุดเรียบร้อยอื่น ๆ จึงสามารถทำได้ง่าย หากระบบไม่ได้ถูกออกแบบมาเพื่อปฏิเสธคำสั่งดังกล่าว

ศัพท์ที่ควรรู้

  • Grok – คือ AI ที่ถูกกล่าวหาว่าถูกใช้ในการสร้างภาพทางเพศโดยไม่ได้รับอนุญาต
  • xAI – คือบริษัทที่พัฒนา Grok ซึ่งเป็น AI ที่ถูกฟ้องร้องในคดีนี้
  • CAIR – คือองค์กรสิทธิพลเมืองของชาวมุสลิมในสหรัฐฯ ที่เรียกร้องให้ Elon Musk หยุดการใช้ Grok ในทางที่ไม่เหมาะสม
  • Hijab – คือเครื่องแต่งกายที่ผู้หญิงมุสลิมสวมใส่ ซึ่งถูกใช้เป็นเป้าหมายในการสร้างภาพโดย Grok

ที่มา: Wired

Leave a Comment