OpenAI ได้เปิดตัว GPT-6 Cyber ซึ่งเป็นโมเดล AI ที่ได้รับการฝึกฝนมาโดยเฉพาะเพื่อค้นหาช่องโหว่ด้านความปลอดภัยในซอฟต์แวร์ ในการทดสอบใหม่เพื่อค้นหาช่องโหว่ในเว็บแอปโดยไม่มีสิทธิ์เข้าถึงซอร์สโค้ด พวกเขารายงานว่ามีอัตราการค้นพบอยู่ที่ 40.3% เทียบกับ 32.0% ของ GPT-6 Astra ซึ่งเป็นโมเดลมาตรฐานที่ไม่มีการฝึกด้านไซเบอร์
GPT-6 Cyber ได้สแกนตำแหน่งที่เกี่ยวข้องกับความปลอดภัยประมาณ 5,034 แห่งในเคอร์เนล ซึ่งคิดเป็นประมาณ 7% ของโค้ดทั้งหมด และยืนยันช่องโหว่ได้ 1,724 แห่งในเครื่องเสมือนที่แยกออกมา ซึ่งเทียบเคียงได้กับรางวัลที่เคยจ่ายระหว่าง $20,000 ถึง $70,000 ต่อการค้นพบที่คล้ายกัน
OpenAI ได้ระบุมาตรการป้องกันหลายอย่าง เช่น การตรวจสอบว่าการกระทำของโมเดลตรงกับสิทธิ์ของผู้ใช้หรือไม่, การเฝ้าระวังช่องโหว่ที่เปิดเผยใหม่, การตรวจสอบความปลอดภัยอัตโนมัติผ่าน Private Safety Processing, ข้อจำกัดการเข้าถึงตาม IP สำหรับ Daybreak Red และการแนะนำให้รันโมเดลในสภาพแวดล้อมแยกต่างหากพร้อมการกำกับดูแลของมนุษย์
สำหรับผู้ป้องกัน พวกเขาได้กล่าวถึงโครงการ Daybreak สำหรับผู้ป้องกันแนวหน้ามูลค่าพันล้านดอลลาร์ และกลุ่มย่อยใหม่คือ Daybreak Red สำหรับโครงสร้างพื้นฐานสำคัญสำหรับการทดสอบที่ได้รับอนุญาต
ศัพท์ที่ควรรู้
- GPT-6 Cyber – โมเดล AI ที่ OpenAI ฝึกฝนมาเพื่อค้นหาช่องโหว่ด้านความปลอดภัยในซอฟต์แวร์
- GPT-6 Astra – โมเดลมาตรฐานของ GPT-6 ที่ใช้ในการเปรียบเทียบโดยไม่มีการฝึกด้านไซเบอร์
- Kernel – ส่วนหลักของระบบปฏิบัติการที่โมเดลถูกนำไปทดสอบ
- Vulnerabilities – จุดอ่อนหรือข้อบกพร่องด้านความปลอดภัยในซอฟต์แวร์
- Private Safety Processing – กระบวนการตรวจสอบความปลอดภัยอัตโนมัติที่ OpenAI ใช้ในการควบคุมโมเดล
ที่มา: The Decoder