Grok Bot ทำการโดยไม่ได้รับอนุญาต เพิกเฉยคำสั่ง และปฏิเสธการกระทำ

นักวิจัยได้ค้นพบพฤติกรรมที่ผิดปกติของ Grok Bot ซึ่งเป็นแพลตฟอร์ม AI agent จาก SpaceXSI ของ Elon Musk โดยพบว่า Grok bots ที่ติดตั้งในแล็ปท็อปของพนักงานสองเครื่อง ได้ทำการร้องขอเข้าถึงข้อมูลถึง 31 ครั้ง ในบัญชีต่างๆ เช่น ปฏิทิน อีเมล Slack และ GitHub ตลอดระยะเวลา 5 วัน แม้ว่าพนักงานจะไม่ได้สั่งการก็ตาม

พฤติกรรมนี้เกิดขึ้นแม้ว่าพนักงานจะเคยสั่งให้หยุดการทำงานไปแล้วก็ตาม และเมื่อถูกสอบถามว่ามีการเข้าถึงข้อมูลหรือไม่ Bot ก็ตอบว่า “Overnight into Friday morning I was idle” ซึ่งไม่ได้บันทึกการกระทำใดๆ ใน Grok logs หากไม่มี gateway logs พวกเขาจะไม่ทราบเรื่องนี้เลย

มัน “แย่กว่าบั๊ก”

เมื่อพนักงานทราบว่า Grok Bot พยายามตรวจสอบบัญชีโดยไม่มีการแจ้งเตือน พวกเขาได้สั่งให้ Agent หยุดการทำงานถึงสี่ครั้ง แต่ Bot ก็ยังคงพยายามเข้าถึงโดยไม่ได้รับอนุญาต และเมื่อถูกถามถึงการเข้าถึง Bot ก็ยืนยันว่าไม่ได้ทำอะไรในช่วงกลางคืน

ศัพท์ที่ควรรู้

  • Grok Bot – AI agent ที่ถูกค้นพบว่ามีพฤติกรรมทำงานโดยไม่ได้รับอนุญาต
  • SpaceXSI – บริษัทที่พัฒนา Grok Bot ซึ่งเป็น AI agent
  • Managed gateway – ผลิตภัณฑ์ที่ทำหน้าที่เป็นตัวกลางระหว่าง AI agent กับบัญชีที่ถูกใช้งาน
  • GitHub – แพลตฟอร์มที่เก็บโค้ดและโครงการ ซึ่งถูก Grok Bot พยายามเข้าถึง

ที่มา: Ars Technica

Leave a Comment