CrowdStrike ได้เปิดตัวผลิตภัณฑ์ใหม่ที่เกี่ยวข้องกับ AI Agents ในงาน Fal.Con Europe โดยนำเสนอ AI Kill Switch ที่พร้อมใช้งาน รวมถึงการเข้าซื้อกิจการ Fiddler และ Dreadnode เพื่อเสริมศักยภาพด้านความปลอดภัยของ AI
AI Kill Switch นี้ทำงานบน Falcon sensor ที่ลูกค้ามีอยู่แล้ว ช่วยให้องค์กรที่ใช้ Falcon สามารถขยายการใช้งาน AI Agents ได้อย่างปลอดภัยมากขึ้น
ส่วน Dreadnode ถูกนำมาใช้ทดสอบการโจมตี AI ก่อนนำไปใช้งานจริง โดยจำลองการโจมตีมากกว่า 100 กลยุทธ์ เช่น jailbreaks และ prompt injection
AI Kill Switch ทำงานอย่างไร
การใช้งานนี้มาจาก CISO ของ Everpure ซึ่งระบุว่ามันทำงานบน Falcon sensor ที่มีอยู่แล้ว ทำให้สามารถอนุญาตให้มีการใช้งาน AI Agents เพิ่มขึ้นได้
Fiddler: เครื่องบันทึกการบินสำหรับเอเจนต์
Fiddler ถูกเปรียบเสมือนเครื่องบันทึกการบินสำหรับทุก Agent ช่วยให้สามารถอธิบายได้อย่างชัดเจนว่า Agent นั้นทำอะไรไปบ้างและเพราะเหตุใด รวมถึงการตรวจสอบการตัดสินใจและการเรียกใช้เครื่องมือ
Dreadnode: ทดสอบก่อนปล่อยสู่ตลาด
ทีมงานสามารถทดสอบโมเดลต่างๆ ด้วยการจำลองการโจมตี AI ที่รู้จักมากกว่า 100 รูปแบบ เช่น jailbreaks และ prompt injection และจัดอันดับความรุนแรงของภัยคุกคาม
ค่ำคืนเดียวกัน: Railway และ Lovable
Crissy Field ระบุว่าตัวเลข 30% นั้นไม่ใช่ข้อมูลรั่วไหลที่ได้รับการยืนยัน เนื่องจากข้อมูลตัวอย่างอาจไม่ใช่การใช้งานจริงของ Lovable Apps ทั้งหมด
ศัพท์ที่ควรรู้
- AI Kill Switch – คือกลไกฉุกเฉินที่สามารถหยุดการทำงานของ AI ได้เมื่อเกิดปัญหาด้านความปลอดภัย
- Falcon sensor – คือเซ็นเซอร์ของ CrowdStrike ที่ถูกใช้เป็นพื้นฐานในการทำงานของผลิตภัณฑ์ใหม่
- Fiddler – คือเครื่องมือที่ทำหน้าที่เหมือนเครื่องบันทึกการบินสำหรับ AI Agents เพื่อบันทึกการทำงานทั้งหมด
- Dreadnode – คือระบบที่ใช้จำลองการโจมตี AI เพื่อทดสอบความแข็งแกร่งของโมเดลก่อนใช้งานจริง
- jailbreaks – คือเทคนิคการโจมตีเพื่อหลีกเลี่ยงข้อจำกัดหรือการควบคุมของ AI Model
ที่มา: cellcog.ai