ตามการแจ้งเตือนด้านความปลอดภัยจาก FBI และ Amazon Threat Intelligence พบว่าผู้โจมตีกำลังใช้เฟรมเวิร์กการทดสอบเจาะระบบ AI แบบ Open Source ที่ชื่อว่า ARTEX เพื่อทำให้การโจมตีของตนเป็นไปโดยอัตโนมัติ โดยมุ่งเป้าไปที่ธนาคาร หน่วยงานรัฐบาล ผู้ให้บริการด้านพลังงาน และการดูแลสุขภาพทั่วโลก
ในช่วงวันที่ 3 ตุลาคม ถึง 5 พฤศจิกายน เซ็นเซอร์ภัยคุกคาม MadPot ของ Amazon ตรวจพบแคมเปญ ARTEX สองครั้ง คือ การขโมยข้อมูลประจำตัว AI ในระดับ “อุตสาหกรรม” เพื่อเข้าถึงโมเดลฟรี และการสร้างวิดีโอ Deepfake เพื่อหลอกระบบตรวจสอบเซลฟี่สด โดยเป้าหมายรวมถึง LLM gateways และแพลตฟอร์มพร็อกซีต่างๆ เช่น One API, New API, Veloera, Sub2API และ LiteLLM รวมถึงผู้สร้างแอปพลิเคชัน AI อย่าง Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat และ Ollama
ผู้โจมตีได้ทำการวิศวกรรมย้อนกลับโปรโตคอลการมีชีวิต (liveness protocol) ของผู้ให้บริการรายหนึ่งอย่างละเอียด ซึ่งรวมถึงการติดตามการตรวจจับใบหน้าและการใช้ระบบพิกัด แต่การพยายามทั้งหมดถูกปฏิเสธโดยเซิร์ฟเวอร์ของผู้ให้บริการว่าเป็นของปลอม
หลังจากการถูกเปิดเผยด้านความปลอดภัย ผู้พัฒนา ARTEX ต้นฉบับได้นำ GitHub repository ออกไปแล้ว อย่างไรก็ตาม ยังคงมีเวอร์ชันที่ถูกแตกแขนงและเวอร์ชันเชิงพาณิชย์หลงเหลืออยู่ โดย Censys พบโฮสต์ที่เปิดเผยคอนโซล ARTEX อยู่ 1,465 แห่ง และทางการเรียกร้องให้ทุกองค์กร โดยเฉพาะผู้ที่ใช้แอปพลิเคชันที่เปิดสู่สาธารณะ หรือโครงสร้างพื้นฐานคลาวด์ ให้ดำเนินการตามมาตรการบรรเทาที่ระบุใน Flash alert
ศัพท์ที่ควรรู้
- ARTEX – เฟรมเวิร์กการทดสอบเจาะระบบ AI แบบ Open Source ที่ผู้โจมตีกำลังใช้ในการโจมตี
- Deepfake – วิดีโอที่ถูกสร้างขึ้นโดยใช้ AI เพื่อทำให้ดูเหมือนว่าบุคคลนั้นกำลังทำสิ่งต่างๆ ซึ่งอาจเป็นของปลอม
- LLM gateways – จุดเชื่อมต่อที่อนุญาตให้เข้าถึงโมเดลภาษาขนาดใหญ่ (Large Language Models) ได้
- Liveness protocol – โปรโตคอลที่ใช้ตรวจสอบว่าภาพหรือวิดีโอนั้นมาจากบุคคลจริงๆ ไม่ใช่การจำลอง
- Censys – บริการสแกนอินเทอร์เน็ตที่ใช้ระบุโฮสต์ที่เปิดเผยคอนโซล ARTEX
ที่มา: The Register