ปัจจุบันผู้คนจำนวนมากกำลังสร้าง AI companions ส่วนตัวด้วย large language model โดยใช้เพียงข้อความสั่ง แต่ส่วนใหญ่มักไม่ทราบว่าการสร้างเหล่านั้นจะทำงานอย่างไร
ในงานวิจัยใหม่นี้ Pataranutaporn และนักศึกษาปริญญาเอก Anthony Baez และ Sheer Karny ได้นำเสนอ ‘neural transparency’ ซึ่งเป็นเครื่องมือที่ทำให้ผู้ใช้ทั่วไปสามารถมองเห็นภายในเครือข่ายประสาทของ AI ได้ก่อนที่แชทบอทจะพูด
เมื่อผู้ใช้ป้อน custom system prompt ทีมวิจัยจะฉายภาพการกระตุ้นภายในของโมเดลและแปลผลลัพธ์เป็นภาพที่เข้าใจง่าย ซึ่งช่วยให้ผู้ใช้เห็นการทำงานของโมเดล
แม้ว่าผู้ใช้จะชื่นชมและรายงานว่ามีความไว้วางใจในระบบมากขึ้น แต่การแสดงข้อมูลภายในนี้ก็ยังไม่ได้เปลี่ยนแปลงพื้นฐานการออกแบบ AI ของพวกเขา
ในงานวิจัยติดตามผล พวกเขากำลังศึกษาการเปลี่ยนแปลงของ neural representation ภายในโมเดลระหว่างการสนทนาหลายรอบ ซึ่งเริ่มเห็นผลลัพธ์ที่น่าสนใจแล้ว
ศัพท์ที่ควรรู้
- Large language model – คือโมเดลภาษาขนาดใหญ่ที่ใช้ขับเคลื่อน AI เช่น แชทบอท
- Neural transparency – เป็นเครื่องมือที่ช่วยให้ผู้ใช้มองเห็นการทำงานภายในเครือข่ายประสาทของ AI
- System prompt – คือชุดคำสั่งที่กำหนดบุคลิกให้กับแชทบอทก่อนการสนทนาเริ่มต้น
- Internal activations – คือการกระตุ้นทางไฟฟ้าภายในโมเดล AI ที่เกิดขึ้นขณะประมวลผล
ที่มา: news.mit.edu