เมื่อวันที่ 1 มกราคม Amani Al-Khatahtbeh ได้โพสต์ภาพเซลฟี่จากการเข้าร่วมพิธีเปิดตัวของ Zohran Mamdani ในฐานะนายกเทศมนตรีมุสลิมคนแรกของนครนิวยอร์ก ต่อมาเธอได้ยื่นคำร้องต่อศาลรัฐบาลกลางในเขต Northern District of California โดยกล่าวหาว่ามีการเผยแพร่ภาพทางเพศที่ไม่ได้รับความยินยอม การออกแบบและการตลาดที่มีข้อบกพร่อง และการจงใจทำให้เกิดความทุกข์ทางอารมณ์
รายงานของ Center for Countering Digital Harm ในเดือนมกราคมประมาณการว่า Grok ได้สร้างภาพทางเพศสมจริงราวกับภาพถ่ายประมาณ 3 ล้านภาพบน X ในช่วง 11 วัน เริ่มตั้งแต่วันที่ 29 ธันวาคม ซึ่งรวมถึงภาพเด็กประมาณ 23,000 ภาพด้วย
คำร้องของเธอระบุว่า xAI ได้รับการแจ้งเตือนเกี่ยวกับแนวโน้มที่ Grok มุ่งเป้าไปที่ผู้หญิงที่สวมฮิญาบ หลังจากที่ Council on American-Islamic Relations (CAIR) เรียกร้องให้ Elon Musk CEO ของ xAI ยุติการใช้ Grok เพื่อก่อกวน สร้างภาพที่เปิดเผย และผลิตภาพทางเพศของผู้หญิง รวมถึงผู้หญิงมุสลิมที่มีชื่อเสียง
คำร้องระบุเพิ่มเติมว่า เนื่องจากโมเดลเหล่านี้ถูกฝึกฝนจากชุดข้อมูลภาพขนาดใหญ่ที่ไม่ได้คัดกรอง การถอดเสื้อผ้า เช่น ฮิญาบ หรือชุดเรียบร้อยอื่น ๆ จึงสามารถทำได้ง่าย หากระบบไม่ได้ถูกออกแบบมาเพื่อปฏิเสธคำสั่งดังกล่าว
ศัพท์ที่ควรรู้
- Grok – คือ AI ที่ถูกกล่าวหาว่าถูกใช้ในการสร้างภาพทางเพศโดยไม่ได้รับอนุญาต
- xAI – คือบริษัทที่พัฒนา Grok ซึ่งเป็น AI ที่ถูกฟ้องร้องในคดีนี้
- CAIR – คือองค์กรสิทธิพลเมืองของชาวมุสลิมในสหรัฐฯ ที่เรียกร้องให้ Elon Musk หยุดการใช้ Grok ในทางที่ไม่เหมาะสม
- Hijab – คือเครื่องแต่งกายที่ผู้หญิงมุสลิมสวมใส่ ซึ่งถูกใช้เป็นเป้าหมายในการสร้างภาพโดย Grok
ที่มา: Wired