เราได้ร่วมกันเขียนเปเปอร์ที่คาดการณ์ว่าผู้ไม่หวังดีจะนำเทคโนโลยี AI ไปใช้ในทางที่ผิดได้อย่างไร และแนวทางที่เป็นไปได้ในการป้องกันและบรรเทาภัยคุกคามเหล่านี้
งานนี้เป็นผลจากการทำงานเกือบหนึ่งปีร่วมกับเพื่อนร่วมงานจาก Future of Humanity Institute, Centre for the Study of Existential Risk, Center for a New American Security, Electronic Frontier Foundation และอื่นๆ
AI ท้าทายความมั่นคงระดับโลกเพราะมันช่วยลดต้นทุนในการโจมตีที่มีอยู่เดิม สร้างภัยคุกคุกคามและช่องโหว่ใหม่ และทำให้การระบุการโจมตีเฉพาะเจาะจงซับซ้อนขึ้น
เราเชื่อว่าชุมชนควรมีส่วนร่วมในการประเมินโครงการวิจัยเพื่อป้องกันการถูกนำไปใช้ในทางที่ผิด และต้องมีส่วนร่วมกับผู้กำหนดนโยบายเพื่อทำความเข้าใจในประเด็นที่ละเอียดอ่อนเหล่านี้
ตัวอย่างสถานการณ์ที่เราศึกษา ได้แก่ การใช้โฆษณาชวนเชื่อที่สร้างโดย AI เพื่อกำหนดเป้าหมายผู้ดูแลระบบระบบรักษาความปลอดภัย, อาชญากรไซเบอร์ใช้ neural network และเทคนิค “fuzzing” สร้างไวรัสคอมพิวเตอร์, การแฮ็กหุ่นยนต์ทำความสะอาดให้ส่งระเบิดไปยังบุคคลสำคัญ, และรัฐที่ไม่เป็นมิตรใช้ระบบเฝ้าระวังที่เสริมด้วย AI เพื่อจับกุมผู้ที่เข้าข่ายความเสี่ยงตามการคาดการณ์
เราตื่นเต้นที่จะได้เริ่มการอภิปรายนี้กับเพื่อนร่วมงาน ผู้กำหนดนโยบาย และสาธารณชน เพราะเราใช้เวลาสองปีที่ผ่านมาในการวิจัยและกำหนดนโยบายภายในของ OpenAI สำหรับประเด็นเหล่านี้
ศัพท์ที่ควรรู้
- AI – ปัญญาประดิษฐ์ หมายถึงเทคโนโลยีที่ทำให้คอมพิวเตอร์สามารถทำงานที่ต้องใช้สติปัญญาของมนุษย์ได้
- Attribution – การระบุแหล่งที่มา หมายถึงการระบุว่าการโจมตีนั้นมาจากใครหรือต้นตอใด
- Red teaming – การทดสอบแบบสีแดง หมายถึงการพยายามเจาะหรือบ่อนทำลายระบบอย่างตั้งใจเพื่อหาจุดอ่อน
- Neural networks – โครงข่ายประสาทเทียม หมายถึงแบบจำลองทางคณิตศาสตร์ที่คอมพิวเตอร์ใช้ในการเรียนรู้และประมวลผลข้อมูล
- Fuzzing – เทคนิคการป้อนข้อมูลที่ไม่คาดคิด หมายถึงการป้อนข้อมูลแบบสุ่มหรือผิดพลาดเข้าไปในระบบเพื่อกระตุ้นให้เกิดข้อผิดพลาด
ที่มา: OpenAI