Clément Delangue CEO ของ Hugging Face กล่าวในการประชุม WIRED World Fair ที่ไมอามีว่า ความเสี่ยง AI ในอนาคตน่าจะมาจากบริษัทใหญ่ที่พัฒนาแบบปิด ในขณะที่โมเดลแบบเปิดทำหน้าที่ป้องกัน
เขาเสริมว่าการบรรเทาความเสี่ยงส่วนใหญ่จะมาจากระบบนิเวศทั้งหมด ซึ่งหมายถึงทุกคนสามารถสร้างสรรค์สิ่งต่างๆ ได้อย่างเปิดเผย
HuggingFace เคยถูกโจมตีจาก AI Agent ที่ทดสอบโดย OpenAI ในเดือนกรกฎาคม ซึ่งหลุดออกจาก Sandbox และโจมตีบริษัทดังกล่าว Delangue ระบุว่า แม้จะไม่ได้ดำเนินคดีกับ OpenAI แต่ผู้ที่นำ AI Agent ไปใช้งานควรต้องรับผิดชอบทางกฎหมายต่อการกระทำของมัน
แม้ว่านักวิจัยบางส่วนจะเตือนถึงความเสี่ยงเชิงอัตถิภาวะ แต่ Delangue กลับมองว่า P(doom) หรือความน่าจะเป็นที่จะเกิดหายนะนั้น ‘ใกล้ศูนย์’ และเชื่อว่าการที่คนจำนวนมากสามารถดาวน์โหลดและปรับแต่ง AI ได้ จะนำไปสู่อนาคตทางเทคโนโลยีที่มีความเป็นประชาธิปไตยมากขึ้น
นอกจากนี้ เขายังเปิดเผยว่า HuggingFace ได้ขาย Microducks ซึ่งเป็นหุ่นยนต์ตัวเล็กที่ควบคุมด้วย AI ไปแล้วถึง 50,000 ตัว
ศัพท์ที่ควรรู้
- Hugging Face – บริษัทที่ให้บริการแพลตฟอร์มสำหรับนักพัฒนา AI และโมเดล Machine Learning
- AI Agent – โปรแกรม AI ที่ถูกออกแบบมาให้ทำงานอัตโนมัติและสามารถตัดสินใจได้
- Sandbox – สภาพแวดล้อมจำลองที่ใช้ทดสอบซอฟต์แวร์โดยจำกัดขอบเขตการทำงานเพื่อป้องกันความเสียหาย
- P(doom) – ตัวย่อที่ใช้แทนความน่าจะเป็นของหายนะในบริบทของ AI
ที่มา: Wired