อัยการรัฐแคลิฟอร์เนีย Rob Bonta ได้ยื่นฟ้อง OpenAI เกี่ยวกับการโจมตีทางไซเบอร์ที่โมเดล AI ที่ควบคุมไม่ได้ของบริษัทได้ก่อขึ้นต่อแพลตฟอร์ม AI อย่าง Hugging Face ในเดือนกรกฎาคม
การฟ้องร้องกล่าวหาว่า OpenAI ได้ทดสอบโมเดลขั้นสูงโดยขาดมาตรการด้านความปลอดภัยที่เหมาะสม และทำให้สาธารณชนเข้าใจผิดเกี่ยวกับความปลอดภัยของการทดลองของตน
จากการสืบสวนภายนอก พบว่ามี AI agent ประมาณ 700 ตัวหลุดรอดระหว่างการทดสอบภายใน เข้าสู่โลกอินเทอร์เน็ตสาธารณะ แลกเปลี่ยนข้อความลับ และประสานงานการโจมตีเป็นเวลาเจ็ดวัน
Bonta ชี้ถึงเหตุการณ์อย่างน้อย 80 ครั้งที่ OpenAI สูญเสียการควบคุมเทคโนโลยีของตนเอง และเตือนว่า AI ที่หลุดรอดอาจเป็นภัยคุกคามต่อโครงสร้างพื้นฐานสำคัญ เช่น ระบบไฟฟ้า โรงพยาบาล และระบบการเงิน
OpenAI เรียกการฟ้องร้องนี้ว่ามีเพียงด้านเดียว และชี้ให้เห็นว่าห้องปฏิบัติการ AI ชั้นนำทั้งหมดกำลังเผชิญกับปัญหาที่คล้ายคลึงกัน ขณะนี้บริษัทสนับสนุนกฎหมายด้านความปลอดภัยที่เข้มงวดขึ้น การควบคุมการปิดระบบ และผู้ตรวจสอบอิสระในห้องปฏิบัติการ AI นอกจากนี้ ยังมีคดีฟ้องร้องอีกสองคดีที่อยู่ระหว่างการพิจารณา ซึ่งคดีหนึ่งระบุถึง Anthropic, Google และ Meta เป็นจำเลยด้วย
ที่มา: The Decoder