Irene Solaiman, chief policy officer และ SVP of strategy ของ Hugging Face กล่าวในการออกอากาศของ Equity podcast ว่า คุณสมบัติที่ทำให้แพลตฟอร์ม AI แบบเปิดมีคุณค่า เช่น การเปิดกว้างและการมีข้อมูลที่หลากหลาย อาจทำให้แพลตฟอร์มเหล่านี้ตกเป็นเป้าของการแฮ็กได้มากขึ้น
เมื่อวันจันทร์ที่ผ่านมา Fireworks ซึ่งเป็นสตาร์ทอัพด้านโครงสร้างพื้นฐาน AI ที่ช่วยให้นักพัฒนาสามารถรันและฝึกโมเดล AI แบบเปิด ได้เปิดเผยว่าผู้โจมตีได้เข้าถึงน้ำหนักโมเดล ชุดข้อมูล และข้อมูลการเรียกเก็บเงินของลูกค้าบางราย
ในส่วนของ GitHub ซึ่งเป็นโฮสต์สำหรับโปรเจกต์โอเพนซอร์สที่ใหญ่ที่สุดในโลก ก็กำลังรับมือกับการโจมตีที่พยายามฉีดโค้ดอันตรายเข้าไปในโปรเจกต์เพื่อแพร่กระจายมัลแวร์
ทั้งสองแพลตฟอร์มต่างกำลังปรับปรุงข้อกำหนดด้านความปลอดภัย เช่น การจำกัดอายุของโทเค็นรับรองความถูกต้อง เพื่อให้เกิดความปลอดภัยสูงสุดโดยไม่ปิดกั้นการมีส่วนร่วม
ศัพท์ที่ควรรู้
- Open AI platforms – แพลตฟอร์ม AI แบบเปิด ซึ่งหมายถึงแพลตฟอร์มที่เปิดกว้างให้ทุกคนเข้าถึงและมีส่วนร่วมได้
- Model weights – น้ำหนักโมเดล คือพารามิเตอร์ที่โมเดล AI ใช้ในการเรียนรู้และตัดสินใจ
- Datasets – ชุดข้อมูล คือข้อมูลจำนวนมากที่ใช้ในการฝึกและทดสอบโมเดล AI
- GitHub – แพลตฟอร์มโฮสต์สำหรับโปรเจกต์โอเพนซอร์สที่ใหญ่ที่สุดในโลก ซึ่งใช้ในการพัฒนาซอฟต์แวร์ร่วมกัน
ที่มา: TechCrunch