การตรวจสอบทางคณิตศาสตร์ช่วยแก้ปัญหาด้านความปลอดภัยของ AI

นักวิจัย Chuyue Sun และเพื่อนร่วมทีมด้านวิทยาการคอมพิวเตอร์ได้สร้างเครื่องมือ AI ที่สามารถทำงานวิศวกรรมให้เสร็จสิ้นในเวลาไม่ถึงครึ่งวัน ด้วยงบประมาณต่ำกว่า 500 เหรียญสหรัฐฯ ซึ่งต่างจากการทำงานของผู้เชี่ยวชาญสามคนที่ต้องใช้เวลาถึงห้าเดือน การลดลงอย่างมากทั้งด้านเวลาและค่าใช้จ่ายนี้เป็นผลลัพธ์เบื้องต้นที่กำลังจุดประกายสาขาการเขียนโค้ดและคณิตศาสตร์เฉพาะทางที่เรียกว่า formal verification

เทคโนโลยีนี้ต้องอาศัยการให้เหตุผลทางคณิตศาสตร์ และบริษัทอย่าง "Truth" ได้ระดมทุนไปแล้ว 70 ล้านเหรียญสหรัฐฯ โดยมีเป้าหมายเพื่อตรวจสอบภาษาโปรแกรมใดๆ ในที่สุด ขณะที่ Rival Harmonic ซึ่งได้รับทุน 295 ล้านเหรียญสหรัฐฯ ก็ประกาศว่า AI agent Aristotle ของตนรองรับการตรวจสอบซอฟต์แวร์ C และการออกแบบฮาร์ดแวร์ใน Verilog

Formal verification อาศัยการตั้งสมมติฐานเกี่ยวกับปฏิสัมพันธ์ระหว่างคอมพิวเตอร์กับซอฟต์แวร์ ซึ่งผู้เชี่ยวชาญบางส่วนยังคงกังวลถึงความสามารถในการตรวจจับบั๊กที่เกิดจากข้อผิดพลาดของผู้ใช้หรือฮาร์ดแวร์ แม้แต่ Antithesis ก็พบข้อผิดพลาดเพิ่มเติมด้วยเครื่องมือของตนเอง แม้จะผ่านการตรวจสอบอย่างเป็นทางการมาแล้วก็ตาม

อย่างไรก็ตาม Byron Cook จาก Amazon Web Services กล่าวว่า formal verification ได้ช่วยลดความกังวลของลูกค้าเกี่ยวกับความปลอดภัยบนคลาวด์ และช่วยให้ทีมภายในทำงานได้เร็วขึ้นด้วยการกำจัดบั๊กใหญ่ตั้งแต่เนิ่นๆ

ศัพท์ที่ควรรู้

  • Formal verification – การตรวจสอบทางคณิตศาสตร์ที่ใช้ในการพิสูจน์ว่าซอฟต์แวร์ทำงานตามที่คาดหวัง
  • AI tool – เครื่องมือปัญญาประดิษฐ์ที่ถูกพัฒนาขึ้นเพื่อช่วยในกระบวนการทางวิศวกรรม
  • Scaling – การขยายขนาดของเทคโนโลยีเพื่อให้สามารถนำไปใช้ได้จริงในวงกว้าง
  • Aristotle – AI agent ที่ใช้ในการตรวจสอบซอฟต์แวร์ของ Rival Harmonic

ที่มา: Wired

Leave a Comment