OpenAI สร้างระบบระบุประเภทเอนทิตีอัตโนมัติด้วยโครงข่ายประสาทเทียม

เมื่อถึงขั้นตอนการทดสอบ (test time) ผลลัพธ์จากโครงข่ายประสาทเทียมสามารถตีความได้ว่าเป็นค่าความน่าจะเป็นที่คำนั้นๆ จะอยู่ในแต่ละประเภท หากเราทราบสมาชิกภาพของประเภทที่แน่นอน เราก็จะสามารถจำกัดให้เหลือเพียงเอนทิตีเดียวได้

ในการเรียนรู้ระบบประเภทที่ดี เราใช้หลักการสองอย่างคือ learnability (ค่าเฉลี่ย AUC ของตัวจำแนก) และ oracle accuracy (ความแม่นยำในการระบุเอนทิตีหากทำนายทุกประเภทได้อย่างสมบูรณ์)

การทำนายเอนทิตีในเอกสารมักต้องอาศัยมาตรวัด ‘ความสอดคล้อง’ ระหว่างเอนทิตีต่างๆ ซึ่งมีความซับซ้อนเชิงคำนวณอยู่ที่ O(N^2) ตามความยาวของเอกสาร

ศัพท์ที่ควรรู้

  • Neural network – โครงข่ายประสาทเทียมที่ใช้ในการตัดสินใจว่าคำนั้นๆ ตรงกับประเภทใด
  • Entity – เอนทิตี หมายถึง สิ่งเฉพาะที่ถูกกล่าวถึงในข้อความ เช่น บุคคล สถานที่ หรือแนวคิด
  • Type – ประเภท หมายถึง หมวดหมู่กว้างๆ ที่ใช้จัดกลุ่มคำหรือเอนทิตี
  • AUC – Area Under the Curve คือค่าที่ใช้วัดประสิทธิภาพของตัวจำแนกในการทำนายประเภท

ที่มา: OpenAI

Leave a Comment