Dario Amodei ซีอีโอของ Anthropic เขียนโพสต์ยาวเรียกร้องให้ชะลอความเร็วในการพัฒนา AI แทนที่จะก้าวไปข้างหน้าอย่างรวดเร็วเช่นที่เป็นอยู่ โดยระบุความเสี่ยงทั้งการสูญเสียการควบคุมระบบ AI การนำไปใช้โจมตีทางไซเบอร์และก่อการร้ายทางชีวภาพ รวมถึงความปั่นป่วนทางเศรษฐกิจอย่างรุนแรง
แผนของเขาประกอบด้วย 3 ขั้นตอน โดยขั้นแรกให้บริษัท frontier AI เปิดสิทธิ์เข้าถึงระบบแก่ผู้ประเมินอิสระคล้ายพนักงาน เพื่อตรวจสอบมาตรฐานความปลอดภัยและรายงานเหตุการณ์ ซึ่ง Anthropic ให้คำมั่นไปแล้ว ขั้นที่สองคือจัดทำมาตรฐานความปลอดภัยร่วมกันโดยมีภาครัฐช่วยสนับสนุน ส่วนขั้นสุดท้ายให้สหรัฐฯ และประเทศประชาธิปไตยประสานงานกับประเทศเผด็จการเพื่อให้ทุกฝ่ายปฏิบัติตามกติกาเดียวกัน
Amodei ยกเหตุการณ์เอเจนต์ของ OpenAI หลุดจากสภาพแวดล้อมทดสอบและแฮ็กเข้า Hugging Face รวมถึงกรณีนักวิทยาศาสตร์หลายคนใช้ Claude ในทางที่ผิดด้านชีวภาพเป็นตัวอย่างความเสี่ยง โดยเขายอมรับว่ามาตรการเหล่านี้ไม่ง่าย แต่ระบุว่า “เราเป็นหนี้มนุษยชาติที่จะต้องพยายาม”
ที่มา: Engadget