ของเล่น AI ยังมีปัญหา PIRG ตรวจสอบ พบว่ามีการปรับปรุงบ้าง

รายงานของ PIRG เกี่ยวกับของเล่นทั้งสี่ประเภทนั้นเคยได้รับความสนใจอย่างมากในช่วงเทศกาลปีที่แล้ว ซึ่งเคยมีกรณี FoloToy ดึง Kumma ออกจากตลาด และอาจมีส่วนในการตัดสินใจของ Mattel ที่จะชะลอแผนร่วมมือกับ OpenAI สำหรับตุ๊กตา Barbie ที่ขับเคลื่อนด้วย AI

สำหรับการรายงานปีนี้ PIRG ได้ตรวจสอบของเล่นเหล่านั้นอีกครั้ง และดูเหมือนว่าผู้ผลิตหลายรายจะใส่ใจข้อกังวลจากปีที่แล้วมากขึ้น โดย PIRG ระบุว่าปัญหาส่วนใหญ่ที่เคยพบนั้นได้รับการแก้ไขแล้ว แม้ว่าจะยังไม่สมบูรณ์ทั้งหมดก็ตาม

แทบไม่มีพฤติกรรมของโมเดล

ทั้งสามรายอ้างว่าใช้ GPT-4o ของ OpenAI แต่ PIRG ชี้ว่า GPT-4o นั้นเป็นโมเดลที่อ่อนแอที่สุดในการป้องกันไม่ให้ของเล่นหลุดเข้าสู่เนื้อหาสำหรับผู้ใหญ่

PIRG ยังเสริมว่าบริษัท AI ส่วนใหญ่ไม่ได้ตรวจสอบลูกค้าของตนว่าใช้โมเดลอย่างไร ซึ่งทำให้ผู้ผลิตของเล่นต้องรับภาระด้านความปลอดภัยทั้งหมด ขณะที่รัฐบาลแคลิฟอร์เนียได้ประกาศใช้มาตรการพักการขายของเล่น AI สำหรับเด็กอายุต่ำกว่า 16 ปี เป็นเวลาสี่ปีในเดือนกันยายน

ศัพท์ที่ควรรู้

  • PIRG – องค์กรที่ทำการวิจัยและรายงานเกี่ยวกับความปลอดภัยของผลิตภัณฑ์เหล่านี้ GPT-4o – โมเดล AI ที่ถูกกล่าวถึงว่าเป็นแกนกลางของข้อโต้แย้งในปีที่ผ่านมา OpenAI – บริษัทผู้พัฒนาโมเดล AI ที่ถูกนำมาใช้ในของเล่นเหล่านี้ Mattel – บริษัทผู้ผลิตของเล่นที่เคยมีแผนร่วมมือกับ OpenAI แต่ถูกชะลอการตัดสินใจ

ที่มา: The Register

Leave a Comment