เราได้ตรวจพบและสกัดกั้นแคมเปญที่มีการประสานงานซึ่งออกแบบมาเพื่อดึงข้อมูลการให้เหตุผลที่ได้รับการปกป้องจากโมเดลของเรา โดยกิจกรรมที่สังเกตพบครั้งแรกคือช่วงสัปดาห์แรกของเดือนกรกฎาคม การให้เหตุผลที่ได้รับการปกป้องคือบันทึกภายในของโมเดลที่ใช้ในการประมวลผลงาน ซึ่งหากถูกดึงออกมาอาจเปิดเผยข้อมูลที่ไม่ได้อยู่ในคำตอบสุดท้ายและช่วยให้ผู้อื่นสามารถจำลองความสามารถของโมเดลได้
เราเห็นผู้ปฏิบัติการพยายามดึงข้อมูลการให้เหตุผลที่ได้รับการปกป้องด้วยวิธีใหม่ๆ รวมถึงการคัดลอกการให้เหตุผลที่เข้ารหัสจากบทสนทนาหนึ่งและขอให้โมเดลในอีกบทสนทนาหนึ่งถอดรหัสและถอดเสียงเนื้อหาที่ซ่อนอยู่ กิจกรรมนี้เริ่มต้นในวันที่ 1 กรกฎาคม โดยมีปริมาณน้อย ก่อนจะพบการเพิ่มขึ้นสูงในวันที่ 24 และ 25 กรกฎาคม จากคำขอ 16,000 รายการจากผู้ใช้กว่า 4,000 ราย
เราได้ปิดเส้นทางที่อนุญาตให้ผู้ที่มีการให้เหตุผลที่เข้ารหัสของอีกผู้ใช้หนึ่งสามารถเล่นซ้ำและกู้คืนเนื้อหาได้ และได้เพิ่มการตรวจสอบเพื่อตรวจจับและกักข้อมูลขาออกที่อาจเปิดเผยการให้เหตุผล สุดท้าย เราได้แบ่งปันข้อมูลที่เกี่ยวข้องผ่าน Frontier Model Forum และช่องทางการแบ่งปันข้อมูลของภาครัฐ เพื่อให้ผู้พัฒนาชั้นนำและพันธมิตรภาครัฐสามารถเฝ้าระวังกิจกรรมที่คล้ายกันและเสริมการป้องกันของตนเองได้
สำหรับการติดตั้งที่โฮสต์โดยพันธมิตร จำเป็นต้องมีการป้องกันเช่นเดียวกับบริการของบริษัท และการโจมตีที่มาจากผลลัพธ์ของเครื่องมือก็ต้องมีการป้องกันที่ตรวจสอบมากกว่าแค่ข้อความที่มองเห็นทั่วไป การตอบสนองของเราจะยังคงมุ่งเน้นไปที่สามด้าน ได้แก่ การป้องกันทางเทคนิคที่แข็งแกร่งขึ้นต่อการดึงข้อมูล การตรวจจับและการบังคับใช้ที่ดียิ่งขึ้นต่อแคมเปญที่ประสานงาน และการแบ่งปันข้อมูลภัยคุกคามเชิงลึกในภาคอุตสาหกรรมและภาครัฐ
ศัพท์ที่ควรรู้
- Protected reasoning – คือบันทึกภายในของโมเดลที่ใช้ในการประมวลผลงาน ซึ่งอาจเปิดเผยข้อมูลที่ไม่ได้อยู่ในคำตอบสุดท้าย
- Model-distillation campaign – คือแคมเปญที่มีการประสานงานเพื่อพยายามดึงข้อมูลการให้เหตุผลที่ซ่อนอยู่ในโมเดล
- Encrypted reasoning – คือการให้เหตุผลที่ถูกเข้ารหัส ซึ่งต้องใช้กุญแจหรือกระบวนการถอดรหัสเพื่ออ่านเนื้อหาที่แท้จริง
ที่มา: OpenAI