Anthropic ชี้กุญแจสำคัญของ Agent Memory คือการรู้ว่าจะลืมอะไร

ในการทดสอบของ Anthropic พบว่า Claude Sonnet 3.7 พยายามเก็บทุกอย่างไว้ในการเล่นเกม Pokémon Red ทำให้เกิดไฟล์ถึง 413 ไฟล์ใน 225 โฟลเดอร์ตลอด 10,000 ขั้นตอน ซึ่งต่างจาก Fable 5 ที่เก็บเฉพาะกลยุทธ์และกฎที่ถูกต้องและไปได้ไกลกว่ามาก

Claude มีกระบวนการคล้ายกับการนอนหลับของมนุษย์ โดยจะทบทวนบทสนทนาจากเซสชันก่อนหน้าในช่วงพักเพื่อตรวจสอบบันทึกของตนเอง

Anthropic เตือนว่าไม่ควรโหลดความจำจำนวนมากเข้าสู่ทุกเซสชัน เพราะจะกิน Context และส่งต่อข้อมูลที่ไม่ถูกต้องไปในเซสชันอนาคต ดังนั้น การมี Agent Memory ที่มีประโยชน์จึงขึ้นอยู่กับการเก็บข้อมูลที่ถูกต้องและการแก้ไขข้อผิดพลาดในภายหลังมากกว่าการพยายามเก็บทุกอย่าง

ระบบของ OpenAI ที่เรียกว่า “Dreaming” ก็ทำงานคล้ายกัน โดยจะมีการปรับปรุงโปรไฟล์ผู้ใช้ในพื้นหลังและแก้ไขข้อมูลที่ล้าสมัยโดยอัตโนมัติ

ศัพท์ที่ควรรู้

  • Agent – ตัวแทน AI ที่ทำงานตามเป้าหมายที่กำหนด
  • Context – บริบทหรือข้อมูลที่จำเป็นต่อการประมวลผลในขณะนั้น
  • Claude Sonnet 3.7 – โมเดล AI ที่ถูกนำมาใช้ในการทดสอบของ Anthropic
  • Fable 5 – โมเดล AI อีกตัวที่ใช้ในการทดสอบและแสดงให้เห็นถึงประสิทธิภาพในการกรองข้อมูล

ที่มา: The Decoder

Leave a Comment