Anthropic เปิดเผยว่าตรวจพบและสกัดกั้นการโจมตีด้วยเทคนิคกลั่นความรู้ (Knowledge Distillation) ต่อโมเดล Claude จากห้องแล็บ AI ในจีนถึง 7 แห่ง รวมถึง Alibaba, Moonshot, DeepSeek, Z.ai (Zhipu) และ MiniMax โดยมีขนาดใหญ่ในระดับอุตสาหกรรม
เทคนิคนี้โดยปกติเป็นวิธีฝึกโมเดลที่ถูกกฎหมาย โดยให้โมเดลขนาดใหญ่ทำหน้าที่ “ครู” ถ่ายทอดความรู้ให้โมเดล “นักเรียน” ที่เล็กกว่า แต่ห้องแล็บเหล่านี้ส่งคำขอจำนวนมหาศาลเพื่อสร้างชุดข้อมูลฝึกโมเดลของตนเอง ถือเป็นการละเมิดข้อกำหนดการใช้งานและขโมยทรัพย์สินทางปัญญาทางอ้อม
Anthropic ระบุว่าได้ตรวจจับการใช้งานผิดปกติ ระงับบัญชีที่เกี่ยวข้อง และปรับปรุงระบบป้องกันแล้ว พร้อมย้ำว่าการโจมตีลักษณะนี้อาจสร้างความเสี่ยงด้านความปลอดภัยหากโมเดลที่ถูกกลั่นนำไปใช้ในทางที่ผิด
ที่มา: The Hacker News