โมเดลภาษาทำหน้าที่เป็นแกนการให้เหตุผลของเอเจนต์ในวิทยาศาสตร์เคมีและวัสดุ ซึ่งต้องตีความโครงสร้างโมเลกุลก่อนวางแผนการสังเคราะห์หรือเสนอวัสดุ
จากการทดสอบกับโมเดลโอเพนซอร์ส 5 ตัว บนพรอมต์ที่ครอบคลุม 92 โมเลกุล และ 20 กลุ่มฟังก์ชัน พบว่าแม้จะไม่มีการฝึกฝนเคมี โมเดลก็จัดกลุ่มฟังก์ชันตามตระกูลเคมี และเข้ารหัสความแตกต่างทางเคมีในทิศทางที่สอดคล้องกัน
การเปลี่ยนแปลงจากกลุ่มฟังก์ชันหนึ่งไปยังอีกกลุ่มหนึ่งจะปรากฏขึ้นอย่างฉับพลันในชั้นกลาง ซึ่งเป็นจุดที่การแทนค่าเปลี่ยนจากการติดตามคำในพรอมต์ไปสู่การติดตามกลุ่มฟังก์ชัน
แม้ว่าโมเดลพื้นฐานจะระบุกลุ่มฟังก์ชันที่ถูกต้องได้เพียง 58.5% แต่ก็ยังคงรักษาแพทเทิร์นที่มีความหมายทางเคมีไว้ได้ และข้อผิดพลาดส่วนใหญ่คือการไม่สามารถตอบได้มากกว่าการตอบผิด ซึ่งชี้ให้เห็นว่าการประเมินจากผลลัพธ์อาจต่ำไป
การวิเคราะห์การแทนค่านี้ช่วยแยกแยะระหว่างการขาดความรู้กับการไม่สามารถแสดงออกถึงความรู้นั้นได้ ซึ่งสำคัญอย่างยิ่งในการเลือกหรือปรับใช้โมเดลสำหรับเอเจนต์เคมี
ศัพท์ที่ควรรู้
- Functional group – กลุ่มฟังก์ชันคือส่วนของโมเลกุลที่กำหนดคุณสมบัติทางเคมีของสารนั้นๆ LLM – โมเดลภาษาขนาดใหญ่คือแบบจำลองที่ใช้ในการประมวลผลและสร้างภาษาของมนุษย์ Agent – เอเจนต์คือระบบอัตโนมัติที่สามารถรับรู้สภาพแวดล้อมและดำเนินการตามเป้าหมายที่กำหนด Internal representations – การแทนค่าภายในคือรูปแบบทางคณิตศาสตร์ที่โมเดลใช้ในการเข้ารหัสข้อมูลที่ได้รับ Prompt – พรอมต์คือข้อความนำเข้าที่ผู้ใช้ป้อนให้กับโมเดลเพื่อกระตุ้นให้เกิดการตอบสนอง
ที่มา: arxiv.org