การหารือครั้งล่าสุดเมื่อวันที่ 19 ธันวาคม กับ The New York Times มุ่งเน้นไปที่ความเป็นไปได้ในการเป็นพันธมิตรระดับสูงสำหรับการแสดงผลแบบเรียลไทม์พร้อมการอ้างอิงใน ChatGPT ซึ่งจะเปิดโอกาสให้ทั้งสองฝ่ายเข้าถึงผู้อ่านและผู้ใช้ของตน
เราได้ชี้แจงไปแล้วว่า เช่นเดียวกับแหล่งข้อมูลใดๆ เนื้อหาของพวกเขาไม่ได้มีส่วนช่วยในการฝึกโมเดลที่มีอยู่ของเราอย่างมีความหมาย และอาจไม่ส่งผลกระทบมากพอต่อการฝึกในอนาคต
ในส่วนของการแสดงซ้ำของเนื้อหา (regurgitation) ที่ The New York Times อ้างถึงนั้น ดูเหมือนว่าจะมาจากบทความเก่าที่แพร่หลายในเว็บไซต์บุคคลที่สามหลายแห่ง และการที่เกิดเหตุการณ์ดังกล่าวอาจเกิดจากการที่พวกเขาใช้ Prompt ที่ถูกออกแบบมาเป็นพิเศษ
แม้ว่าเราจะให้ความสำคัญกับการแก้ไขปัญหานี้อย่างจริงจัง ดังเช่นตอนเดือนกรกฎาคมที่เราต้องระงับฟีเจอร์หนึ่งของ ChatGPT ทันทีหลังทราบว่ามันสามารถจำลองเนื้อหาแบบเรียลไทม์ในทางที่ไม่ได้ตั้งใจได้ แต่การใช้งานดังกล่าวไม่ใช่กิจกรรมปกติหรือที่ได้รับอนุญาตจากผู้ใช้
อย่างไรก็ตาม เรากำลังพัฒนาให้ระบบมีความต้านทานต่อการโจมตีแบบปฏิปักษ์ (adversarial attacks) เพื่อป้องกันการแสดงข้อมูลการฝึกซ้ำอยู่เสมอ และมีความคืบหน้าอย่างมากในโมเดลล่าสุดของเรา
ศัพท์ที่ควรรู้
- Regurgitation – การแสดงซ้ำของเนื้อหา หมายถึงการที่โมเดลสร้างผลลัพธ์ที่เหมือนกับข้อมูลที่ใช้ในการฝึกซ้ำขึ้นมา
- Attribution – การอ้างอิง หมายถึงการระบุแหล่งที่มาของข้อมูลอย่างชัดเจน
- Prompt – ข้อความนำเข้า หมายถึงคำสั่งหรือข้อความที่ผู้ใช้ป้อนเข้าไปในโมเดลเพื่อให้เกิดการตอบสนอง
- Adversarial attacks – การโจมตีแบบปฏิปักษ์ หมายถึงการป้อนข้อมูลที่ถูกออกแบบมาเพื่อหลอกหรือทำให้ระบบทำงานผิดพลาด
- ChatGPT – โมเดลภาษาขนาดใหญ่ของ OpenAI ที่สามารถโต้ตอบกับผู้ใช้ได้
ที่มา: OpenAI