ทนายความฝ่ายจำเลยในรัฐนิวเม็กซิโกถูกลงโทษทางวินัย หลังใช้ ChatGPT สร้างคำให้การเท็จและอ้างอิงพยานที่ไม่มีตัวตนจริงในคดีความ ถือเป็นการละเมิดจรรยาบรรณวิชาชีพอย่างร้ายแรง
ทนายความผู้นี้ชี้แจงว่าไม่ทราบมาก่อนว่าปัญญาประดิษฐ์สามารถสร้างข้อมูลเท็จได้ สะท้อนความเข้าใจที่ขาดหายไปเกี่ยวกับข้อจำกัดและความเสี่ยงของ AI ในทางปฏิบัติ
กรณีนี้เป็นตัวอย่างชัดเจนถึงอันตรายจากการพึ่งพาเทคโนโลยีโดยไม่ตรวจสอบความถูกต้อง เนื่องจากทนายความมีหน้าที่รับผิดชอบต่อเอกสารและคำให้การที่ยื่นต่อศาล การใช้ ChatGPT โดยไม่ตรวจสอบอาจนำไปสู่ผลทางกฎหมายรุนแรง
ที่มา: Ars Technica