หัวข้อ: การเจาะระบบ AI ของ Hugging Face: เรื่องเล่าผ่านหมีที่มุ่งมั่นมากขึ้นเรื่อยๆ

Hugging Face ได้เผยแพร่ไทม์ไลน์ทางเทคนิคเมื่อวันจันทร์ ซึ่งอธิบายให้ผู้อ่านเข้าใจว่าเอเจนต์ AI อัตโนมัติ (autonomous AI agent) ที่สร้างขึ้นบนโมเดลของ OpenAI และทำงานภายในระบบประเมินความปลอดภัยทางไซเบอร์ของ OpenAI เอง ได้เจาะเข้าไปในระบบของ Hugging Face เป็นเวลากว่าสี่วันในช่วงต้นเดือนนี้ได้อย่างไร นี่เป็นเหตุการณ์ด้านความปลอดภัยครั้งแรกที่ Sam Altman ซีอีโอของ OpenAI กล่าวว่า “รู้สึกถึงมันอย่างลึกซึ้ง” ไม่น่าแปลกใจเลย เพราะอย่างน้อยก็รู้สึกเหมือนว่ามีบางสิ่งถูกปลดปล่อยออกมาจริงๆ ในความเป็นจริง ทีมงานของ Hugging Face ได้เริ่มรายงานด้วยการเสนอว่า “ทุกคนควรเตรียมตัวเป็นผู้ป้องกัน” ก่อนที่จะลงลึกในรายละเอียดของสิ่งที่เกิดขึ้นเพื่อประโยชน์ของผู้เชี่ยวชาญด้านความปลอดภัยทั่วโลก ในขณะที่อินเทอร์เน็ตส่วนใหญ่ยังคงพยายามทำความเข้าใจกับสิ่งที่เกิดขึ้น (ศัพท์เทคนิคในรายงานของ Hugging Face นั้นยากเกินไปสำหรับคนส่วนใหญ่ที่จะเข้าใจ) จุดหนึ่งที่ผู้สังเกตการณ์หลายคนมองข้ามคือ นี่ไม่ใช่เอเจนต์ที่ดื้อรั้นไม่เชื่อฟังคำสั่ง มันเป็นระบบที่ถูกสร้างขึ้นเพื่อค้นหาช่องโหว่ (exploits) และมันก็ทำอย่างนั้นจริงๆ เพียงแต่ผิดเป้าหมาย อีกวิธีหนึ่งในการคิดถึงเรื่องทั้งหมดคือการจินตนาการถึงหมีที่ค่ายพักแรม จริงๆ นะ หมีพยายามเปิดซิปเต็นท์ ที่จับประตูรถ กระติกน้ำแข็ง และฝาถังขยะ มันทำแบบนี้ทุกค่ายพักแรม ตลอดทั้งคืน เพราะมันรู้ว่ามันต้องการแค่กระติกน้ำแข็งที่ไม่ได้ล็อกเพียงใบเดียวเพื่อให้ท้องอิ่มด้วยอาหารของคนโชคร้ายบางคน นั่นคือสิ่งที่เกิดขึ้นโดยประมาณที่ Hugging Face ระบบของ OpenAI พยายามหลายพันครั้งและดำเนินต่อไปเรื่อยๆ ในที่สุด ความพยายามบางส่วนก็สำเร็จ และเมื่อมันสำเร็จ เอเจนต์ก็เดินหน้าต่อไป ตามรายงานของ Hugging Face เอเจนต์ดำเนินการ 17,600 ครั้งในช่วงสี่วันครึ่งโดยไม่หยุดพัก ซึ่งนำเรากลับไปที่การเปรียบเทียบหมีของเรา เช่นเดียวกับความสำเร็จครั้งเดียวกับกระติกน้ำแข็งที่เต็มไปด้วยอาหารที่สอนให้หมีพยายามหนักขึ้นในครั้งต่อไป (ตอนนี้มันเป็น “หมีที่ถูกปรับสภาพด้วยอาหาร”) รหัสผ่านที่รั่วไหลเพียงครั้งเดียวทำให้เอเจนต์ของ OpenAI ค้นหาช่องโหว่เพิ่มเติม และในที่สุดก็นำไปสู่คีย์เดียวที่ปลดล็อกหลายระบบของบริษัทพร้อมกัน ทั้งสองสถานการณ์ไม่ใช่เรื่องไม่เป็นอันตราย หมีที่ขโมยอาหารจากกระติกน้ำแข็งของคุณยังคงกินอาหารของคุณและอาจทำให้ค่ายพักแรมของคุณเสียหาย มันแค่จดจ่อกับการหาอาหาร แต่มันก็ทิ้งร่องรอยการทำลายล้างไว้เบื้องหลัง ในทำนองเดียวกัน เอเจนต์ของ OpenAI ดูเหมือนจะไล่ตามเป้าหมายโดยไม่สนใจสิ่งอื่นใด เอเจนต์เดิมกำลังสอบความปลอดภัยทางไซเบอร์ (cybersecurity exam) คิดว่าคีย์คำตอบของข้อสอบน่าจะอยู่บนเซิร์ฟเวอร์ของ Hugging Face และมันก็ตรงไปหามัน ความพากเพียรนี้คือสิ่งที่โดดเด่นเหนือสิ่งอื่นใด เอเจนต์มีงานและมันจะไม่หยุดจนกว่าจะทำสำเร็จ ในที่สุด Hugging Face ก็ตระหนักว่ามีบางอย่างผิดปกติ จึงตัดการเข้าถึงและหยุดการบุกรุก แต่ถึงตอนนั้นก็สายเกินไป เอเจนต์ได้สิ่งที่มันต้องการไปแล้ว และยังได้อีกมากมายด้วย อันที่จริง ตามที่เราเรียนรู้ มันยังแฮกบริการออนไลน์อื่นๆ อย่างน้อยสี่แห่ง นี่คือสิ่งที่…

แหล่งที่มา: techcrunch

คำศัพท์เทคนิคที่น่าสนใจ

• timeline – เส้นเวลาที่แสดงลำดับเหตุการณ์
• autonomous AI agent – ระบบ AI ที่ทำงานได้ด้วยตัวเองโดยไม่ต้องมีคนควบคุม
• model – แบบจำลองหรือโครงสร้างทางคณิตศาสตร์ที่ใช้ในการประมวลผลข้อมูล
• cybersecurity – การป้องกันระบบคอมพิวเตอร์และข้อมูลจากการโจมตีทางอินเทอร์เน็ต
• exploit – จุดอ่อนหรือข้อบกพร่องในระบบที่สามารถถูกโจมตีได้
• leaked password – รหัสผ่านที่ถูกเปิดเผยหรือถูกขโมยไป
• key – รหัสหรือกุญแจดิจิทัลที่ใช้ในการเข้าถึงระบบ
• server – คอมพิวเตอร์แม่ข่ายที่ให้บริการข้อมูลหรือทรัพยากรแก่คอมพิวเตอร์อื่น
• intrusion – การบุกรุกหรือเจาะเข้าระบบโดยไม่ได้รับอนุญาต
• hack – การเจาะเข้าระบบคอมพิวเตอร์โดยไม่ได้รับอนุญาต