การศึกษาของ Cornell University พบว่าผู้คนให้คะแนนความน่าเชื่อถือของข้อความที่สร้างโดย GPT-2 ในระดับที่เพิ่มขึ้นเมื่อเทียบกับรุ่น 774M ทำให้ OpenAI ตัดสินใจเปิดตัวโมเดล 1.5B
ขณะเดียวกัน การทำงานร่วมกับ Middlebury Institute of International Studies พบว่ากลุ่มสุดโต่งสามารถใช้ GPT-2 โดยการปรับแต่งโมเดลให้เข้ากับอุดมการณ์ต่างๆ เช่น white supremacy, Marxism, jihadist Islamism และ anarchism เพื่อสร้างโฆษณาชวนเชื่อสังเคราะห์
ทีมวิจัยของ OpenAI ได้พัฒนาโมเดลตรวจจับที่สามารถระบุข้อความจาก GPT-2 รุ่น 1.5B ได้ถึงประมาณ 95% ซึ่งพวกเขาเชื่อว่ายังไม่เพียงพอสำหรับการใช้งานเดี่ยวๆ และต้องใช้ร่วมกับข้อมูลเมตาและการตัดสินของมนุษย์
การเปิดตัวโมเดลตรวจจับนี้มีวัตถุประสงค์เพื่อช่วยในการศึกษาการตรวจจับข้อความสังเคราะห์ แม้ว่าอาจทำให้ผู้ไม่หวังดีสามารถหลบเลี่ยงการตรวจจับได้ง่ายขึ้นก็ตาม
ศัพท์ที่ควรรู้
- GPT-2 – คือโมเดลภาษาขนาดใหญ่ที่ OpenAI ได้พัฒนาขึ้น
- 1.5B – คือขนาดของโมเดล GPT-2 รุ่นใหม่ที่มีพารามิเตอร์ 1.5 พันล้านตัว
- Credibility score – คือคะแนนที่ผู้คนให้เกี่ยวกับความน่าเชื่อถือของข้อความที่สร้างโดย AI
- Fine-tuned – คือการปรับแต่งโมเดล AI ให้เชี่ยวชาญในงานหรือข้อมูลเฉพาะทาง
ที่มา: OpenAI