MIT-Cornell เผยวิธีปรับปรุง AI ตรวจจับข้อความให้ทนทานต่อการหลอกลวง

อาจารย์ที่สงสัยว่ารายงานของนักศึกษาถูกสร้างโดย Large Language Model (LLM) สามารถใช้เครื่องมือตรวจจับ AI เพื่อยืนยันข้อสงสัยของตนได้ แต่ผู้เชี่ยวชาญจาก MIT และ Cornell University เตือนว่าไม่ควรเชื่อถือเครื่องมือเหล่านั้นทั้งหมด

งานวิจัยพบว่าเครื่องมือตรวจจับ AI เองก็สามารถถูกหลอกได้ด้วยข้อความที่สร้างโดย AI ซึ่งถูกปรับแต่งให้ดูเหมือนมนุษย์เขียน โดยใช้เทคนิคที่ทำให้โมเดลปรับตัวเข้ากับอินพุตที่ไม่เคยเห็นโดยไม่ต้องฝึกใหม่ทั้งหมด

Manish Raghavan หนึ่งในผู้ร่วมวิจัยกล่าวว่า Test-time adaptation ช่วยให้ AI detector มีความทนทานมากขึ้น แม้ต้องเผชิญกับการโจมตีอย่างต่อเนื่องจากผู้ใช้ AI

อย่างไรก็ตาม เมื่อเครื่องมือถูกเผยแพร่ออกสู่สาธารณะ รูปแบบการเขียนหรือการใช้ AI อาจเปลี่ยนแปลงไป ทำให้เกิดคำถามใหญ่ว่าควรจะคิดเกี่ยวกับวิทยาศาสตร์ การเขียน และศิลปะอย่างไรในยุคที่การแยกแยะเนื้อหาของมนุษย์กับ AI นั้นทำได้ยากมาก

นักวิจัยตั้งเป้าว่าจะศึกษาขอบเขตเชิงกลยุทธ์ที่ TTA สามารถนำไปใช้ได้ และสร้างเครื่องมือเปรียบเทียบที่ดีขึ้นเพื่อช่วยให้วิศวกรปรับปรุงโมเดลตรวจจับ AI ให้ทันต่อการเปลี่ยนแปลงนี้

ที่มา: news.mit.edu

Leave a Comment