การสืบสวนพบแอปพลิเคชัน AI กว่า 400 แอป ซึ่งคาดว่าถูกสร้างโดยองค์กรเดียวในจีน ได้ผ่านการรีวิวและเข้าสู่ App Store โดยแฝงไปด้วยฟังก์ชันการสร้าง Deepfake ที่มีเนื้อหาทางเพศและรุนแรง แอปเหล่านี้อนุญาตให้ผู้ใช้ อัปโหลดภาพและสร้าง Deepfake ที่อาจนำไปสู่การกลั่นแกล้งหรือการข่มขู่เหยื่อ
แอปอย่าง Viefur ซึ่งอ้างว่าใช้สำหรับเพิ่มเสื้อผ้าในภาพสัตว์เลี้ยง มักจะแสร้งว่าเป็นบริการทั่วไป เช่น การสอนภาษา หรือ AI โค้ชออกกำลังกาย แต่เมื่อเข้าถึงภายใต้เงื่อนไขที่กำหนด แอปในเครือข่ายจะโหลดอินเทอร์เฟซเว็บที่ซ่อนอยู่ เพื่อสร้างภาพและวิดีโอ AI ที่โจ่งแจ้งจากภาพที่ผู้ใช้ อัปโหลด
เครือข่ายนี้ซ่อนตัวอยู่ท่ามกลางโฆษณาวิดีโอจำนวนมากบน Facebook และ Instagram โดยแอปบางตัวเคยผ่านการอนุมัติจาก Apple, Google และ Meta ทั้งที่มีนโยบายชัดเจนห้ามเนื้อหา Deepfake ที่เป็นอันตราย โดยการกระตุ้นอาจเกิดจากการดาวน์โหลดแอปหลังจากคลิกโฆษณาบนแพลตฟอร์ม Meta
หลังจากได้รับการอนุมัติ นักพัฒนาได้เปลี่ยนเว็บไซต์ที่แอปดึงข้อมูลมา โดยแทนที่เนื้อหาที่เคยผ่านการอนุมัติด้วยเนื้อหาเชิงพาณิชย์ และโปรโมตผ่านโฆษณาในแพลตฟอร์มบุคคลที่สาม ขณะที่ Meta ระบุว่าได้ดำเนินการกับบัญชีโฆษณามากกว่า 10,000 บัญชีที่เชื่อมโยงกับโดเมนเหล่านี้แล้ว
ศัพท์ที่ควรรู้
- Deepfake – เทคโนโลยีที่ใช้ปัญญาประดิษฐ์ในการสร้างสื่อปลอมที่ดูสมจริง เช่น ภาพหรือวิดีโอ
- App Store – แพลตฟอร์มจำหน่ายแอปพลิเคชันของ Apple ที่ต้องผ่านการตรวจสอบก่อนเผยแพร่
- AI – ปัญญาประดิษฐ์ ซึ่งเป็นเทคโนโลยีที่ทำให้คอมพิวเตอร์สามารถเรียนรู้และทำงานได้เหมือนมนุษย์
- เครือข่ายโดเมน – กลุ่มของเว็บไซต์ที่เชื่อมโยงกัน ซึ่งในกรณีนี้คือกลุ่มของแอปพลิเคชันที่ทำงานร่วมกัน
ที่มา: 9to5Mac