เมื่อ LLM สามารถช่วยวิเคราะห์ไบนารีซอฟต์แวร์เชิงพาณิชย์และจำลองการทำงานได้ นักพัฒนาซอฟต์แวร์และนักศึกษาคนหนึ่งจึงได้สร้างโครงการที่ชื่อว่า Blind LLM Agents (BLA) ซึ่งพยายามขัดขวางความพยายามของ AI agents ในการตรวจสอบโค้ดแอปพลิเคชัน
Artcraft ซึ่งเป็นสตูดิโอพัฒนาขนาดเล็ก ได้เปิดตัวแอปพลิเคชันโอเพนซอร์ส 7 ตัวที่ใช้แทนแอปเชิงพาณิชย์ของ Adobe ซึ่งทำให้ผู้สร้างแอปต้องเผชิญกับความเป็นไปได้ที่ผู้อื่นจะใช้ LLM ในการวิเคราะห์ไบนารีและสร้างมันขึ้นใหม่
Timo Zhang อธิบายว่า BLA ใช้ไปป์ไลน์การแปลง (transform pipeline) ร่วมกับเครื่องมือ MCP และ Agent Skill โดยมีการตั้งชื่อใหม่, การเข้ารหัสสตริงที่มาจาก Seed, การสร้าง Build Polymorphism, การตั้งชื่อใหม่ WASM export, การใช้ตัวล่อ (decoys), การตรวจสอบความสมบูรณ์แบบปิดผนึกตัวเอง และเมทริกซ์การครอบคลุม เพื่อให้พฤติกรรมยังคงเหมือนเดิม แต่เพิ่มต้นทุนในการกู้คืน
Zhang ระบุว่าการประเมินต่างๆ เช่น red teaming และ CrackMe challenges แสดงให้เห็นว่า BLA มีประสิทธิภาพ โดยเน้นว่า ‘Fail-to-break คือการผ่าน เราแค่เพิ่มต้นทุน ไม่ได้อ้างว่ามันทำลายไม่ได้’ และโครงการนี้ไม่ได้สัญญาว่าจะป้องกันเครื่องมือวิศวกรรมย้อนกลับแบบดั้งเดิมอย่าง Ghidra หรือ Frida
ศัพท์ที่ควรรู้
- LLMs – คือแบบจำลองภาษาขนาดใหญ่ที่สามารถช่วยวิเคราะห์และจำลองการทำงานของซอฟต์แวร์ได้
- Reverse engineering – คือกระบวนการวิศวกรรมย้อนกลับที่พยายามทำความเข้าใจการทำงานของซอฟต์แวร์จากโค้ดไบนารี
- Blind LLM Agents (BLA) – คือโครงการที่ออกแบบมาเพื่อทำให้การวิเคราะห์โค้ดโดย AI agents นั้นยากขึ้น
- Build polymorphism – คือเทคนิคการสร้างซอฟต์แวร์ให้มีรูปแบบที่แตกต่างกันในแต่ละครั้งเพื่อหลีกเลี่ยงการถูกโจมตีซ้ำ
ที่มา: The Register