อาจารย์ที่สงสัยว่ารายงานของนักศึกษาถูกสร้างโดย Large Language Model (LLM) สามารถใช้เครื่องมือตรวจจับ AI เพื่อยืนยันข้อสงสัยของตนได้ แต่ผู้เชี่ยวชาญจาก MIT และ Cornell University เตือนว่าไม่ควรเชื่อถือเครื่องมือเหล่านั้นทั้งหมด
งานวิจัยพบว่าเครื่องมือตรวจจับ AI เองก็สามารถถูกหลอกได้ด้วยข้อความที่สร้างโดย AI ซึ่งถูกปรับแต่งให้ดูเหมือนมนุษย์เขียน โดยใช้เทคนิคที่ทำให้โมเดลปรับตัวเข้ากับอินพุตที่ไม่เคยเห็นโดยไม่ต้องฝึกใหม่ทั้งหมด
Manish Raghavan หนึ่งในผู้ร่วมวิจัยกล่าวว่า Test-time adaptation ช่วยให้ AI detector มีความทนทานมากขึ้น แม้ต้องเผชิญกับการโจมตีอย่างต่อเนื่องจากผู้ใช้ AI
อย่างไรก็ตาม เมื่อเครื่องมือถูกเผยแพร่ออกสู่สาธารณะ รูปแบบการเขียนหรือการใช้ AI อาจเปลี่ยนแปลงไป ทำให้เกิดคำถามใหญ่ว่าควรจะคิดเกี่ยวกับวิทยาศาสตร์ การเขียน และศิลปะอย่างไรในยุคที่การแยกแยะเนื้อหาของมนุษย์กับ AI นั้นทำได้ยากมาก
นักวิจัยตั้งเป้าว่าจะศึกษาขอบเขตเชิงกลยุทธ์ที่ TTA สามารถนำไปใช้ได้ และสร้างเครื่องมือเปรียบเทียบที่ดีขึ้นเพื่อช่วยให้วิศวกรปรับปรุงโมเดลตรวจจับ AI ให้ทันต่อการเปลี่ยนแปลงนี้
ที่มา: news.mit.edu