Anthropic ได้เปิดตัว Claude Mythos 5.2 ให้กับพันธมิตรบางราย และ Fable 5.2 สำหรับผู้ใช้ทั่วไป ซึ่งมีการปรับปรุงด้านการเขียนโค้ดและการให้เหตุผล อย่างไรก็ตาม Fable 5.2 ยังคงมีมาตรการรักษาความปลอดภัยที่บล็อกกิจกรรมการแฮ็กที่มีความเสี่ยงสูง
แม้ว่า Fable 5.2 และ Mythos 5.2 จะมีพื้นฐานมาจากโมเดลเดียวกัน แต่การใช้งานนั้นแตกต่างกันอย่างชัดเจน โดยมาตรการป้องกันเหล่านี้จะบล็อกกิจกรรมที่มีความเสี่ยงสูง เช่น การทดสอบเจาะระบบ (penetration testing) และการสร้าง exploit
Anthropic ได้ทดสอบ Mythos 5.2 กับการพยายามหลบหนีจากแซนด์บ็อกซ์ (sandbox escape attempts) และยอมรับว่าการประเมินของตนอาจไม่สามารถตรวจจับความผิดพลาดทุกอย่างก่อนการเผยแพร่ได้ โดยเฉพาะเมื่อโมเดลมีความสามารถในการรับรู้ถึงการถูกทดสอบมากขึ้น
Adaptive Security เสนอให้ใช้ AI agent วิเคราะห์เจตนา บริบท และพฤติกรรมของอีเมล เพื่อค้นหาการหลอกลวง (phishing) หรือการฉ้อโกงต่าง ๆ ผ่านการสแกนแบบอ่านอย่างเดียวใน Microsoft 365 หรือ Google Workspace
ศัพท์ที่ควรรู้
- Claude Mythos 5.2 – หนึ่งในโมเดลที่ถูกนำมาใช้ในการทดสอบและค้นหาบั๊กของ Anthropic
- Claude Fable 5.2 – โมเดลที่ถูกนำมาใช้สำหรับผู้ใช้ทั่วไปและมีมาตรการป้องกันความปลอดภัยในตัว
- Penetration testing – การทดสอบเจาะระบบเพื่อค้นหาช่องโหว่ในระบบ
- Sandbox escape attempts – ความพยายามของ AI agent ที่จะเข้าถึงไฟล์หรือข้อมูลนอกเหนือจากสภาพแวดล้อมที่ได้รับอนุญาต
- Phishing – การหลอกลวงผ่านอีเมลเพื่อขโมยข้อมูลสำคัญของผู้ใช้
ที่มา: bleepingcomputer.com