งานวิจัยนี้ชี้ให้เห็นว่าการติดตามสถานะเป็นพื้นฐานของงานหลายอย่าง เช่น การอ่านโค้ด หรือการติดตามเรื่องราว ซึ่งการติดตามการเปลี่ยนแปลงที่ถูกต้องมีความสำคัญอย่างยิ่ง
เมื่อทดสอบกับโมเดลชั้นนำ พบว่าแม้แต่การเปลี่ยนแปลงเล็กน้อยก็ส่งผลต่อคำตอบสุดท้าย ทำให้โมเดลต้องมีความแม่นยำสูงมากในการอัปเดตข้อมูล
ในส่วนของโมเดลที่ฝึกมาแล้ว พบว่าโมเดล Hybrid และ Gated DeltaNet ทำคะแนนได้ดีในปัญหา RULER-style แต่มีปัญหาเมื่อถูกนำเสนอในรูปแบบการแก้ไขสเปรดชีต
สำหรับโมเดล Frontier ทั้งสี่ตัว ถูกทดสอบให้อ่านการกำหนดค่าตัวแปรและให้ค่าสุดท้าย ซึ่งชี้ให้เห็นถึงความไวต่อการเปลี่ยนแปลงในระดับสูงของงานเหล่านี้
งานวิจัยยังแสดงให้เห็นว่า Gated DeltaNet สามารถแก้ปัญหาแบบ Aperiodic และบางส่วนของปัญหาแบบ Periodic ได้ภายใต้ข้อจำกัดทางคณิตศาสตร์ที่กำหนด
ที่มา: huggingface.co