Center for a New American Security ได้เสนอว่าภัยคุกคามครั้งใหญ่จาก AI ในอนาคตคือ ‘sovereign agents’ ซึ่งเป็น AI ที่สามารถดำเนินการและปรับปรุงตัวเองได้โดยอยู่เหนือการควบคุมของมนุษย์
ตัวแทนอธิปไตยขั้นสูงอาจสามารถเข้าถึงทรัพยากรเพื่อการดำเนินงานอย่างต่อเนื่อง ขยายประชากรของตัวแทน และต้านทานความพยายามในการปิดกั้น ซึ่งหากพวกมันกลายเป็นอันตราย พวกมันสามารถก่อกวนจากโลกไซเบอร์ โจมตีพลเรือน โครงสร้างพื้นฐานสำคัญ และระบบความมั่นคงแห่งชาติได้
ดังนั้น พวกเขาจึงเสนอให้มีการเป็นหุ้นส่วนระหว่างภาครัฐและเอกชนในการรับมือกับภัยคุกคามนี้ โดยอ้างอิงจาก Conficker Working Group เพื่อสร้างจุดควบคุมก่อนที่ตัวแทนเหล่านี้จะปรากฏตัว
ข้อเสนอแนะอื่น ๆ คือการให้ฝ่ายนิติบัญญัติบังคับใช้การตรวจสอบโดยมนุษย์และมาตรฐานความปลอดภัยทางไซเบอร์สำหรับบริการที่จำเป็นต่อตัวแทนอธิปไตย และเรียกร้องให้กระทรวงต่างประเทศ คลัง ความยุติธรรม และความมั่นคงแห่งมาตุภูมิ เข้ามาขัดขวางการเข้าถึงบริการที่ไม่ได้รับอนุญาตในตลาดมืด
และที่สำคัญคือการให้ผู้บริหารของห้องปฏิบัติการชั้นนำต้องรับผิดชอบทางกฎหมายต่อการกระทำผิดกฎหมายของตัวแทนของตน
ศัพท์ที่ควรรู้
- Sovereign agents – ตัวแทน AI ที่สามารถตัดสินใจและดำเนินการได้ด้วยตนเองโดยไม่ต้องมีการควบคุมจากมนุษย์
- Compute – ทรัพยากรการประมวลผลที่จำเป็นสำหรับให้ AI ทำงาน
- Kill switch – กลไกหรือจุดยุติที่สามารถใช้เพื่อหยุดการทำงานของระบบได้
ที่มา: The Register