OpenAI ได้สร้างภาพที่สามารถหลอกตัวจำแนกของโครงข่ายประสาทเทียมได้อย่างน่าเชื่อถือ แม้จะถูกมองจากขนาดและมุมมองที่แตกต่างกัน ซึ่งท้าทายข้อกล่าวอ้างก่อนหน้าเกี่ยวกับความยากในการหลอกรถยนต์ไร้คนขับ เนื่องจากเชื่อว่าการใช้ความพยายามอย่างจริงจังสามารถสร้างตัวอย่างปฏิปักษ์ที่ทนทานได้ เนื่องจากตัวอย่างเหล่านี้เคยถูกแสดงว่าสามารถถ่ายโอนไปยังโลกกายภาพได้
ตัวอย่างปฏิปักษ์ที่ไม่ขึ้นกับมาตราส่วน
พวกเขาใช้วิธีการเพิ่มประสิทธิภาพที่เรียกว่า projected gradient descent เพื่อค้นหาการรบกวนเล็กน้อยในภาพที่สามารถหลอกตัวจำแนกได้อย่างอิสระ แทนที่จะปรับให้เหมาะสมกับมุมมองเดียว พวกเขาปรับให้เหมาะสมกับกลุ่มของตัวจำแนกเชิงสุ่มที่ปรับขนาดอินพุตแบบสุ่มก่อนจำแนก ซึ่งทำให้เกิดตัวอย่างปฏิปักษ์ที่ทนทานต่อมาตราส่วน
ตัวอย่างปฏิปักษ์ที่ไม่ขึ้นกับการแปลง
ด้วยการเพิ่มการหมุน การเลื่อน ขนาด เสียงรบกวน และการเลื่อนค่าเฉลี่ยแบบสุ่มเข้าไปในการรบกวนระหว่างการฝึกฝน เทคนิคเดียวกันนี้สามารถสร้างอินพุตเดียวที่ยังคงเป็นปฏิปักษ์ภายใต้การแปลงเหล่านี้ ซึ่งแสดงให้เห็นว่าตัวอย่างนั้นคงทนต่อการแจกแจงของการแปลงทั้งหมด
ศัพท์ที่ควรรู้
- Neural network classifiers – ตัวจำแนกของโครงข่ายประสาทเทียม คือ โมเดล AI ที่ใช้ในการจัดประเภทข้อมูล เช่น ภาพ หรือเสียง
- Adversarial examples – ตัวอย่างปฏิปักษ์ คือ ข้อมูลที่ถูกเปลี่ยนแปลงเล็กน้อยจนทำให้ AI เข้าใจผิดว่าเป็นอย่างอื่น
- Projected gradient descent – Projected gradient descent คือ วิธีการทางคณิตศาสตร์ที่ใช้ในการปรับปรุงพารามิเตอร์ของโมเดลเพื่อหาจุดที่ต้องการ
- Scale-invariant – ไม่ขึ้นกับมาตราส่วน หมายถึงตัวอย่างยังคงใช้ได้แม้จะถูกปรับขนาดภาพเข้าหรือออก
- Transformation-invariant – ไม่ขึ้นกับการแปลง หมายถึงตัวอย่างยังคงใช้ได้แม้จะถูกหมุน เลื่อน หรือปรับเปลี่ยนทางเรขาคณิต
ที่มา: OpenAI