นักวิจัย MIT ได้พัฒนาเทคนิคใหม่ที่ช่วยให้โมเดลปัญญาประดิษฐ์เชิงกำเนิด (generative AI) สามารถค้นหาคำตอบสำหรับปัญหาที่มีความเสี่ยงสูงได้ โดยวิธีนี้ช่วยให้โมเดลเหล่านี้ตอบสนองข้อกำหนดที่เข้มงวดได้โดยไม่ลดทอนคุณภาพของผลลัพธ์
กุญแจสำคัญของเทคนิคนี้คือการให้อิสระแก่โมเดลมากขึ้นในระหว่างการสร้าง แต่บังคับใช้ข้อจำกัดที่เข้มงวดกับผลลัพธ์สุดท้าย แทนที่จะบังคับใช้ในทุกขั้นตอนกลาง
ในการทดลองที่ครอบคลุมด้านหุ่นยนต์ การควบคุมกระบวนการทางกายภาพ และคอมพิวเตอร์วิชัน วิธีใหม่นี้สามารถตอบสนองข้อจำกัดที่จำเป็นและระบุวิธีแก้ปัญหาที่ดีกว่าเทคนิคที่มีอยู่เดิม
เทคนิคที่ปรับเปลี่ยนได้และใช้งานได้ทันทีนี้สามารถนำไปใช้กับโมเดลที่ผ่านการฝึกฝนมาแล้ว ณ เวลาที่นำไปใช้งานจริง โดยไม่จำเป็นต้องฝึกใหม่ ทำให้สามารถนำไปใช้กับโมเดลที่ต้องปฏิบัติตามกฎความปลอดภัย กฎทางกายภาพ หรือข้อกำหนดที่เข้มงวดอื่นๆ ได้
ศาสตราจารย์ Hayes และคณะ อธิบายว่า แม้ว่า AI เชิงกำเนิดจะเก่งในการสำรวจความเป็นไปได้ที่หลากหลาย แต่โลกแห่งความเป็นจริงก็มีขอบเขตที่ยอมรับได้ ซึ่งในสถานการณ์วิกฤต เช่น การวางแผนเส้นทางหุ่นยนต์ในโรงงานที่มีคนพลุกพล่าน คำตอบที่ “เกือบถูกต้อง” อาจไม่เพียงพอ เพราะอาจทำให้เกิดการชนกับเพื่อนร่วมงานที่เป็นมนุษย์ได้
ศัพท์ที่ควรรู้
- Generative AI – ปัญญาประดิษฐ์เชิงกำเนิดคือโมเดล AI ที่สามารถสร้างสรรค์สิ่งใหม่ๆ ขึ้นมาได้ เช่น ข้อความหรือภาพ
- Safety-critical situations – สถานการณ์วิกฤตด้านความปลอดภัยคือสถานการณ์ที่ความผิดพลาดเพียงเล็กน้อยอาจนำไปสู่ผลลัพธ์ที่อันตรายร้ายแรง
- Intermediate step – ขั้นตอนกลางคือกระบวนการย่อยๆ ที่เกิดขึ้นระหว่างการสร้างผลลัพธ์จนเสร็จสมบูรณ์
- Pretrained generative models – โมเดลที่ผ่านการฝึกฝนมาแล้วคือโมเดล AI ที่ถูกสอนให้ทำงานมาแล้วก่อนนำไปใช้งานจริง
ที่มา: news.mit.edu