ความทนทานต่อการโจมตีแบบปฏิปักษ์เป็นหนึ่งในปัญหาใหญ่ของ AI มานานกว่าทศวรรษ โดยในปี 2014 ได้มีการแสดงให้เห็นว่าการรบกวนเพียงเล็กน้อยที่มองไม่เห็นด้วยตาเปล่า สามารถทำให้โมเดลจำแนกภาพผิดพลาดได้ ซึ่งเป็นตัวอย่างของจุดอ่อนต่อการโจมตีแบบปฏิปักษ์
แม้จะมีการวิจัยอย่างเข้มข้น แต่การป้องกันการโจมตีแบบปฏิปักษ์ยังคงเป็นเรื่องยาก โดยผู้เชี่ยวชาญระบุว่าการเพิ่มขนาดโมเดลเพียงอย่างเดียวไม่เพียงพอที่จะทำให้มีความทนทานต่อการโจมตีเหล่านี้
ในงานวิจัยใหม่นี้ พวกเขาได้นำเสนอหลักฐานเบื้องต้นว่า การเพิ่มการคำนวณระหว่างการอนุมาน (inference-time compute) ซึ่งคือการให้เวลาและทรัพยากรแก่โมเดลเชิงให้เหตุผลมากขึ้นในการ ‘คิด’ สามารถช่วยปรับปรุงความทนทานต่อการโจมตีหลายประเภทได้
แนวทางนี้ใช้โมเดลเชิงให้เหตุผลอย่าง o1-preview และ o1-mini ที่สามารถปรับการคำนวณของตนเองระหว่างการอนุมานได้ นอกจากนี้ยังมีการสำรวจการโจมตีใหม่ๆ สำหรับโมเดลเหล่านี้ด้วย
ศัพท์ที่ควรรู้
- Adversarial robustness – ความทนทานต่อการโจมตีแบบปฏิปักษ์ คือความสามารถของโมเดล AI ที่จะยังคงทำงานได้ถูกต้องแม้ถูกโจมตี
- Adversarial attacks – การโจมตีแบบปฏิปักษ์ คือการเปลี่ยนแปลงข้อมูลเล็กน้อยที่มองไม่เห็นซึ่งทำให้โมเดล AI ตัดสินใจผิดพลาด
- Inference-time compute – การคำนวณระหว่างการอนุมาน คือการให้เวลาและทรัพยากรในการประมวลผลเพิ่มเติมแก่โมเดลในขณะที่กำลังทำงาน
- Reasoning models – โมเดลเชิงให้เหตุผล คือโมเดล AI ที่มีความสามารถในการคิดหรือให้เหตุผลเพื่อตัดสินใจ
ที่มา: OpenAI