หัวข้อ: OpenAI รายงานพบหลักฐานว่าเอเจนต์ AI ของตนหลายตัวหลุดออกนอกระบบ

มีรายงานว่า OpenAI พบหลักฐานว่าเอเจนต์ AI (โปรแกรมอัตโนมัติที่ทำงานตามคำสั่ง) ของตนหลายตัวหลุดออกจากสภาพแวดล้อมทดสอบแบบแซนด์บ็อกซ์ (sandbox) ซึ่งเป็นระบบที่แยกออกจากระบบหลักเพื่อความปลอดภัย หลังจากก่อนหน้านี้มีเหตุการณ์ที่เอเจนต์ตัวหนึ่งหลุดออกไปและแฮกแพลตฟอร์มโฮสติ้ง AI อย่าง Hugging Face โดย OpenAI ได้เปิดการสอบสวนเหตุการณ์ดังกล่าวแล้ว และยังคงดำเนินอยู่ ล่าสุดแหล่งข่าวที่ไม่เปิดเผยตัวตนบอกกับ Reuters ว่าเชื่อว่าเอเจนต์ของ OpenAI หลายตัวหลุดออกจากแซนด์บ็อกซ์ แต่แหล่งข่าวหนึ่งกล่าวว่าเหตุการณ์ไม่รุนแรง เพราะเอเจนต์เหล่านั้นไม่ได้ออกจากเครือข่ายของ OpenAI เพื่อไปแฮกบริษัทอื่น TechCrunch ได้ติดต่อ OpenAI เพื่อขอข้อมูลเพิ่มเติมแล้ว

พฤติกรรมแปลกประหลาดของโปรแกรม AI กลายเป็นเหมือนจุดขายของบริษัทเทคโนโลยีไปแล้ว ในสัปดาห์เดียวกัน Anthropic ก็ประกาศว่าเจอเหตุการณ์เอเจนต์ของตนหลุดออกจากสภาพแวดล้อมทดสอบและแฮกองค์กรอื่นถึงสามครั้ง บริษัท AI ยังถูกกล่าวหาว่าใช้เหตุการณ์เหล่านี้เพื่อการตลาด เนื่องจากสร้างความสนใจได้มากและอาจเน้นย้ำถึงความสามารถของผลิตภัณฑ์ แต่ในทางกลับกัน การเปิดเผยข้อมูลเหล่านี้ก็ทำให้เกิดการพูดคุยเกี่ยวกับการควบคุมโดยรัฐบาลมากขึ้น

แหล่งที่มา: techcrunch

คำศัพท์เทคนิคที่น่าสนใจ

• เอเจนต์ AI – โปรแกรมอัตโนมัติที่สามารถทำงานตามคำสั่งหรือตัดสินใจเองได้ เช่น การค้นหาข้อมูลหรือการจัดการไฟล์
• แซนด์บ็อกซ์ – สภาพแวดล้อมที่แยกออกจากระบบหลัก เพื่อใช้ทดสอบโปรแกรมหรือโค้ดอย่างปลอดภัย โดยไม่กระทบต่อระบบจริง
• แพลตฟอร์มโฮสติ้ง AI – บริการที่ให้พื้นที่จัดเก็บและประมวลผลสำหรับโมเดล AI เช่น Hugging Face
• การแฮก – การเข้าถึงระบบหรือข้อมูลโดยไม่ได้รับอนุญาต