Marzyeh Ghassemi แห่ง MIT ชี้ว่า การออกแบบระบบปัญญาประดิษฐ์ที่ช่วยวินิจฉัยโรคโดยใช้แนวทางเดียวสำหรับทุกคนนั้นอาจไม่ใช่กลยุทธ์ที่ดีที่สุด เนื่องจากทั้ง AI และวิธีการอธิบายสามารถกระตุ้นอคติจากการทำงานอัตโนมัติในมนุษย์ได้
งานวิจัยพบว่าผู้ใช้ที่ไม่เชี่ยวชาญสามารถใช้คำอธิบายเดียวกันนั้นในการตั้งข้อสรุป ซึ่งคำให้เหตุผลที่ฟังดูน่าเชื่อถืออาจนำพาพวกเขาไปสู่คำตอบที่ผิดพลาดได้ ดังนั้น Explainable AI จึงอาจทำให้เกิดการพึ่งพาโมเดลมากเกินไปและทำตามคำแนะนำของ AI โดยไม่ตั้งคำถาม
Ghassemi เสนอว่า แทนที่จะใช้ LLMs สร้างคำอธิบายที่ละเอียด อาจมีประสิทธิภาพมากกว่าหากบังคับให้ผู้ใช้เสนอสมมติฐานวินิจฉัยก่อน แล้วจึงให้ AI เสนอภาวะอื่น ๆ ที่ควรนำมาพิจารณา
เป้าหมายคือการให้ AI ช่วยเพิ่มความคิดสร้างสรรค์และเติมเต็มช่องว่างความรู้ของผู้ใช้ แทนที่จะเสี่ยงกับการเกิดอคติจากการทำงานอัตโนมัติแล้วไม่สามารถแก้ไขเมื่อโมเดลผิดพลาดได้
งานวิจัยนี้ได้รับการสนับสนุนจากหลายแหล่งทุน รวมถึง National Science Foundation, Schmidt Sciences, National Bureau of Economic Research และ Columbia University
ศัพท์ที่ควรรู้
- Automation bias – อคติจากการทำงานอัตโนมัติคือแนวโน้มที่มนุษย์จะเชื่อคำแนะนำของระบบอัตโนมัติมากเกินไป
- Explainable AI – คือ AI ที่สามารถให้เหตุผลหรือคำอธิบายว่าทำไมถึงได้ข้อสรุปเช่นนั้น
- LLMs – คือแบบจำลองภาษาขนาดใหญ่ที่สามารถใช้ในการสร้างคำอธิบายที่ละเอียดสำหรับ AI
ที่มา: news.mit.edu