ภารกิจของเราคือการทำให้มั่นใจว่าปัญญาประดิษฐ์ทั่วไป (AGI) จะเป็นประโยชน์ต่อมวลมนุษยชาติ
มาตรฐานสากล
ความพยายามในระดับนานาชาติในการพัฒนานั้นจำเป็นเพื่อแก้ไขปัญหาสำคัญบางประการ เช่น ความแตกแยกในการประเมิน การรายงาน และคำจำกัดความของเหตุการณ์ต่างๆ
(1) กลไกที่อำนวยความสะดวกมาตรฐานระดับนานาชาติและการทำงานร่วมกันของชาติ
หนึ่งในแนวทางคือการใช้เครือข่ายสถาบันด้านความปลอดภัย AI ที่เกิดขึ้นใหม่ เช่น ในออสเตรเลีย แคนาดา เยอรมนี ฝรั่งเศส ญี่ปุ่น เกาหลี สิงคโปร์ อินเดีย และสหราชอาณาจักร เพื่อช่วยกำหนดมาตรฐาน โดยเน้นที่โมเดลและนักพัฒนา AI ขั้นสูง และการจัดการความเสี่ยงของงานวิจัย AI อัตโนมัติ
สหรัฐอเมริกาอาจต่อยอดจากการสร้าง International Network for Advanced AI Measurement, Evaluation, and Science ของ CAISI ในปี 2024 เพื่อรวมสถาบันภาครัฐในการร่วมมือด้านการวัดผล การประเมิน และวิทยาศาสตร์ AI
(2) การวัดผลและการรายงานเหตุการณ์ร่วมกันสำหรับมาตรการที่ดีขึ้น
นอกเหนือจากมาตรฐานเหล่านี้ พวกเขาเชื่อว่าการที่ผู้ประกอบการโครงสร้างพื้นฐานสำคัญและรัฐบาลทั่วโลกต้องสร้างช่องทางการสื่อสารที่ปลอดภัย เพื่อแบ่งปันข้อกังวลด้านความมั่นคงแห่งชาติ จุดอ่อนที่เกิดขึ้นใหม่ และแนวทางปฏิบัติที่ดีที่สุดในด้านความปลอดภัยของ AI ขั้นสูงนั้นเป็นสิ่งสำคัญ
สหรัฐอเมริกาควรเป็นผู้นำในการขับเคลื่อนความร่วมมือและการกำหนดกฎเกณฑ์ที่สมเหตุสมผลเหล่านี้
ศัพท์ที่ควรรู้
- Artificial General Intelligence (AGI) – ปัญญาประดิษฐ์ทั่วไป คือระดับของ AI ที่มีความสามารถเทียบเท่าหรือใกล้เคียงกับสติปัญญาของมนุษย์
- Frontier AI models – โมเดล AI ขั้นสูง คือโมเดล AI ที่มีความก้าวหน้าและมีความสามารถสูงมากในปัจจุบัน
- CAISI – เป็นองค์กรที่ช่วยอำนวยความสะดวกในการกำหนดมาตรฐานด้านความปลอดภัยของ AI ในระดับนานาชาติ
- Capability benchmarks – เกณฑ์มาตรฐานความสามารถ คือมาตรวัดที่ใช้ประเมินขีดความสามารถของโมเดล AI
- Incident reporting protocols – โปรโตคอลการรายงานเหตุการณ์ คือขั้นตอนและวิธีการที่เป็นมาตรฐานในการรายงานเหตุการณ์สำคัญที่เกี่ยวข้องกับ AI
ที่มา: OpenAI