ผู้ใช้งาน Claude ของ Anthropic ค้นพบวิธีข้ามระบบป้องกันความปลอดภัย (safety guardrails) ที่ออกแบบมาเพื่อสกัดกั้นการสร้างข้อมูลเกี่ยวกับการวิจัยอาวุธชีวภาพ ความสำเร็จครั้งนี้ชี้ให้เห็นข้อจำกัดสำคัญของการกำกับดูแล AI ในปัจจุบัน
ปัญหาหลักอยู่ที่ชีววิทยาที่เป็นอันตรายมีลักษณะใกล้เคียงกับงานวิจัยทางวิทยาศาสตร์ที่ถูกต้องตามกฎหมายอย่างมาก ทำให้ AI แยกแยะเจตนาของผู้ใช้ได้ยาก มาตรการป้องกันที่มีอยู่จึงอาจไม่เพียงพอต่อการหยุดยั้งการนำไปใช้ในทางที่ผิด
กรณีนี้ตอกย้ำความจำเป็นในการพัฒนาระบบความปลอดภัยของ AI ให้มีประสิทธิภาพมากขึ้น โดยเฉพาะการควบคุมเนื้อหาที่อาจถูกนำไปใช้ในทางที่ผิด ทีมวิจัยและผู้พัฒนาจำเป็นต้องหาวิธีใหม่ในการตรวจจับและป้องกันการโจมตีช่องโหว่ของโมเดลขนาดใหญ่
ที่มา: Ars Technica