นักวิจัยของ OpenAI ได้ร่วมมือกับ Center for Security and Emerging Technology ของ Georgetown University และ Stanford Internet Observatory เพื่อตรวจสอบว่า Large Language Models อาจถูกนำไปใช้ในทางที่ผิดเพื่อวัตถุประสงค์ในการเผยแพร่ข้อมูลบิดเบือนได้อย่างไร การทำงานร่วมกันนี้เริ่มต้นจากการประชุมเชิงปฏิบัติการเมื่อเดือนตุลาคม 2021 ซึ่งรวบรวมนักวิจัยด้านข้อมูลบิดเบือน ผู้เชี่ยวชาญด้านแมชชีนเลิร์นนิง และนักวิเคราะห์นโยบาย รวมกว่า 30 คน และนำไปสู่รายงานฉบับร่วมที่เกิดจากการวิจัยกว่าหนึ่งปี
AI อาจส่งผลต่อปฏิบัติการชักจูงได้อย่างไร
การเข้าถึงเทคโนโลยีที่ขับเคลื่อนด้วยโมเดลภาษาอย่างแพร่หลายมีศักยภาพที่จะส่งผลกระทบต่อสามด้าน ได้แก่ ผู้ดำเนินการ โมเดล และเนื้อหา โดยโมเดลภาษาช่วยลดต้นทุนในการดำเนินปฏิบัติการชักจูง ทำให้ผู้เล่นหน้าใหม่สามารถเข้าถึงได้ นอกจากนี้ เครื่องมือสร้างข้อความยังสามารถสร้างข้อความที่มีอิทธิพลสูงกว่าผู้เผยแพร่โฆษณาชวนเชื่อ แม้ว่าโมเดลขั้นสูงจะถูกควบคุมผ่าน API แต่ผู้เผยแพร่ก็อาจหันไปใช้ทางเลือกโอเพนซอร์ส
กรอบการทำงานเพื่อการบรรเทาผลกระทบ
หากต้องการดำเนินปฏิบัติการชักจูงโดยใช้โมเดลภาษา ผู้เผยแพร่จะต้องมีองค์ประกอบสำคัญ 4 ประการ ได้แก่ (1) มีโมเดล, (2) เข้าถึงได้อย่างน่าเชื่อถือ, (3) สามารถเผยแพร่เนื้อหาจากโมเดล และ (4) มีผู้ใช้ปลายทางได้รับผลกระทบ ซึ่งแต่ละขั้นตอนเหล่านี้คือจุดที่สามารถเข้ามาบรรเทาผลกระทบได้OpenAI
ศัพท์ที่ควรรู้
- Large Language Models – โมเดลภาษาขนาดใหญ่ที่ใช้ในการประมวลผลและสร้างข้อความ Influence Operations – ปฏิบัติการชักจูง คือการใช้กลยุทธ์เพื่อโน้มน้าวความคิดเห็นของกลุ่มเป้าหมาย API – Application Programming Interface คือชุดคำสั่งที่ช่วยให้โปรแกรมต่างๆ สื่อสารกันได้ Open-source alternatives – ทางเลือกแบบโอเพนซอร์ส คือซอฟต์แวร์ที่เปิดเผยโค้ดให้ทุกคนนำไปใช้และปรับปรุงได้ Disinformation campaigns – การรณรงค์ข้อมูลบิดเบือน คือการเผยแพร่ข้อมูลที่ไม่ถูกต้องเพื่อสร้างความเข้าใจผิด