รายงานของ Mandiant ซึ่งเป็นผู้ตอบสนองต่อเหตุการณ์ของ Google ระบุว่า การเรียกเก็บเงินฉ้อโกงจากการใช้ทรัพยากรเหล่านี้สามารถเกิน 100,000 เหรียญสหรัฐฯ ต่อวัน และบางองค์กรมีค่าใช้จ่ายสะสมสูงถึง 1 ล้านเหรียญก่อนที่เหยื่อจะเพิกถอนการเข้าถึงของบุกรุกรุกเข้ามา
กลยุทธ์ที่ใช้คือการเลือกใช้โมเดลพื้นฐานระดับพรีเมียม การเปิดใช้งานสตรีมการอนุมานปริมาณสูง และใช้ ‘กลยุทธ์เผาและหมุน’ เพื่อสร้างและลบบัญชีบริการที่มีอายุสั้น ขณะเดียวกันก็ตรวจสอบหน้าการเรียกเก็บเงินเพื่อติดตามผลกระทบทางการเงิน
ในอีกกรณีหนึ่ง ผู้บุกรุกได้ทำการเรียก API ของ LLM มากกว่า 500,000 ครั้งในเวลาไม่ถึงแปดชั่วโมง โดยใช้คีย์ API ของบุคคลที่สามที่ถูกขโมย เพื่อขับเคลื่อนบริการกำหนดเส้นทาง Token ที่ชื่อว่า Jet Night ซึ่งเสนอแผนแบบไม่จำกัดในราคาประมาณ 60 เหรียญสหรัฐฯ ต่อเดือน แต่ปกติแล้วควรมีราคาสูงกว่านั้นมาก
รายงานยังระบุถึงบทบาทเฉพาะของการโจมตีนี้ว่า คือการหลอกล่อให้ผู้ใช้ไปยังเว็บไซต์ LLM ที่ถูกต้อง และวางเพย์โหลด JSON ที่มีโทเค็นการเข้าถึงที่ใช้งานอยู่ เพื่อข้ามการควบคุมการยืนยันตัวตนด้วยรหัสผ่านและ MFA ไปยัง API ส่วนหลังบ้าน
ศัพท์ที่ควรรู้
- LLM – โมเดลภาษาขนาดใหญ่ (Large Language Model) คือ AI ที่ใช้ในการประมวลผลภาษาของมนุษย์
- Token – คือหน่วยย่อยของข้อมูลที่ใช้ในการประมวลผลของโมเดล AI ซึ่งถูกเรียกเก็บเงินตามการใช้งาน
- LLMJacking – คือการโจมตีโดยการเข้าควบคุมการใช้งาน LLM ขององค์กรโดยไม่ได้รับอนุญาต
- Inference streams – คือการส่งคำสั่งไปยังโมเดล AI เพื่อให้เกิดการประมวลผลและสร้างผลลัพธ์
ที่มา: The Register