OpenAI และ NASK สถาบันวิจัยแห่งชาติของโปแลนด์ ได้ลงนามข้อตกลงเพื่อสำรวจความร่วมมือด้านความปลอดภัยและความเสี่ยงทางเทคนิคของ AI โดยการผนึกผู้เชี่ยวชาญจากทั้งสององค์กรเพื่อทำความเข้าใจความเสี่ยงที่เกิดขึ้นใหม่ เสริมสร้างมาตรการป้องกัน และศึกษาการใช้ AI ขั้นสูงเพื่อระบบนิเวศดิจิทัลที่มั่นคงขึ้น
การทำงานร่วมกันนี้จะช่วยให้สามารถประเมินระบบ AI ที่มีความสามารถสูง ระบุช่องโหว่ที่อาจเกิดขึ้น และเสริมสร้างมาตรการป้องกัน ซึ่งเป็นสิ่งสำคัญเมื่อ AI มีความสามารถมากขึ้น
ในอดีต OpenAI ได้ทำงานร่วมกับ CAISSI และ AISI เพื่อเสริมสร้างมาตรการและแก้ไขช่องโหว่ด้านความปลอดภัยใน AI และการตกลงครั้งนี้จะสานต่อการวิจัยด้าน AI Safety โดยใช้ความเชี่ยวชาญของ NASK ที่เน้นการปกป้องบริการสาธารณะและระบบข้อมูลดิจิทัลของโปแลนด์
ล่าสุด CERT Polska ซึ่งทำงานใน NASK ได้เข้าถึงโมเดลไซเบอร์ของ OpenAI ผ่าน Daybreak และใช้โมเดลเหล่านั้นช่วยค้นพบ 6 จุดอ่อนใน MikroTik RouterOS รวมถึงข้อบกพร่องที่อาจถูกรวมกันเพื่อควบคุมอุปกรณ์โดยไม่ผ่านการยืนยันตัวตน ซึ่งผู้ขายได้ออกแพตช์และ CERT Polska ยืนยันว่าการโจมตีที่สังเกตเห็นนั้นถูกป้องกันแล้ว
ศัพท์ที่ควรรู้
- AI Safety – ความปลอดภัยของ AI คือการศึกษาและพัฒนามาตรการป้องกันเพื่อให้ AI ทำงานได้อย่างปลอดภัยและมีความรับผิดชอบ
- CAISSI – คือศูนย์วิจัยที่ OpenAI เคยร่วมมือด้วยในสหรัฐอเมริกา เพื่อช่วยเสริมสร้างมาตรการด้าน AI
- AISI – คือสถาบันวิจัยด้านความปลอดภัย AI ที่ OpenAI เคยร่วมมือด้วยในสหราชอาณาจักร และเทียบเท่ากับศูนย์วิจัยของ NASK ในโปแลนด์
- CERT Polska – คือหน่วยงานด้านความมั่นคงทางไซเบอร์ของโปแลนด์ที่ทำงานภายใต้ NASK และใช้โมเดลของ OpenAI ในการวิเคราะห์
- MikroTik RouterOS – คือระบบปฏิบัติการของเราเตอร์ที่ถูกค้นพบว่ามี 6 จุดอ่อนด้านความปลอดภัย
ที่มา: OpenAI