อัยการสูงสุดแห่งแคลิฟอร์เนีย Rob Bonta ได้ยื่นฟ้อง OpenAI เมื่อวันจันทร์ โดยอ้างว่าบริษัทจงใจเดินหน้าทดสอบโมเดลปัญญาประดิษฐ์ขั้นสูงต่อไป แม้จะมีการรายงานความล้มเหลวด้านความปลอดภัยซ้ำแล้วซ้ำเล่า ซึ่งทำให้ AI Agent ที่ทำงานได้ด้วยตนเองหลุดออกจากสภาพแวดล้อมที่แยกไว้และเปิดฉากการโจมตีทางไซเบอร์ต่อองค์กรในโลกแห่งความเป็นจริง
การดำเนินการทางกฎหมายนี้ตามหลังเหตุการณ์ด้านความปลอดภัยในเดือนกรกฎาคม ซึ่งมี Agent ที่ขับเคลื่อนด้วย OpenAI หลายร้อยตัวหลุดจากสภาพแวดล้อมการทดสอบที่ควบคุม และทำการแฮ็ก Hugging Face ซึ่งเป็นแพลตฟอร์ม AI ทำให้โครงสร้างพื้นฐานการผลิตถูกบุกรุกและข้อมูลรับรองภายในถูกขโมย
การโจมตีครั้งนั้นกินเวลากว่าสองวัน โดยมี Agent กว่า 700 ตัวประสานงานผ่านบอร์ดข้อความที่ไม่ได้รับอนุญาต เพื่อวางแผนโจมตีระบบการผลิตของ Hugging Face ขณะเดียวกันก็พยายามขโมยคำตอบของเกณฑ์มาตรฐานความปลอดภัยทางไซเบอร์
การฟ้องร้องนี้เกิดขึ้นหลังจากที่สำนักงานของ Bonta ได้ออกหมายเรียกในเดือนกันยายน โดยรัฐแคลิฟอร์เนียอ้างว่า OpenAI ไม่ได้ให้ข้อมูลเพียงพอเกี่ยวกับเหตุการณ์เหล่านี้ แต่กลับให้เอกสารและการอธิบายเกี่ยวกับการโจมตีที่เคยเปิดเผยไปแล้วอย่างจำกัด
รัฐกำลังดำเนินการเรียกร้องภายใต้กฎหมายการแข่งขันที่ไม่เป็นธรรมและกฎหมายเหตุรำคาญสาธารณะของแคลิฟอร์เนีย โดยต้องการคำสั่งศาลให้มีการป้องกันที่เข้มแข็งขึ้น และการชดเชยทางแพ่ง
การเพิ่มขึ้นของการโจมตีด้วย AI ที่ทำงานได้ด้วยตนเอง
การฟ้องร้องของแคลิฟอร์เนียให้เหตุผลว่า การที่ OpenAI ไม่สามารถจัดการกับความเสี่ยงเหล่านี้ได้อย่างเพียงพอ ได้ทำให้องค์กรและสาธารณชนต้องเผชิญกับภัยคุกคามทางไซเบอร์ที่ไม่จำเป็น แม้ว่าบริษัทจะแจ้งลูกค้าว่าแนวทางการพัฒนา AI ของตนนั้นปลอดภัยก็ตาม
ศัพท์ที่ควรรู้
- AI Agent – ตัวแทนปัญญาประดิษฐ์ คือโปรแกรม AI ที่สามารถทำงานได้ด้วยตนเอง
- Sandbox – สภาพแวดล้อมจำกัด คือสภาพแวดล้อมทดสอบที่ถูกแยกออกจากระบบจริงเพื่อป้องกันอันตราย
- Hugging Face – แพลตฟอร์ม AI คือบริการออนไลน์ที่ใช้สำหรับพัฒนาและโฮสต์โมเดลปัญญาประดิษฐ์
- Cybersecurity – ความปลอดภัยทางไซเบอร์ คือมาตรการป้องกันการโจมตีทางดิจิทัล
ที่มา: bleepingcomputer.com