ในช่วงปีที่ผ่านมา อุตสาหกรรมได้ขับเคลื่อนความก้าวหน้าครั้งสำคัญในขีดความสามารถของ AI ซึ่งจำเป็นต้องมีการวิจัยทางวิชาการด้านความปลอดภัยของ AI เพิ่มเติมเข้ามาเพื่อรองรับช่องว่างนี้
Forum และพันธมิตรการกุศลจึงได้ร่วมกันจัดตั้ง AI Safety Fund เพื่อสนับสนุนนักวิจัยอิสระจากสถาบันการศึกษา สถาบันวิจัย และสตาร์ทอัพทั่วโลก
การสนับสนุนทางการเงินเริ่มต้นมาจาก Anthropic, Google, Microsoft, OpenAI และพันธมิตรการกุศล เช่น Patrick J. McGovern Foundation และ David and Lucile Packard Foundation
กองทุนนี้จะมุ่งเน้นการสนับสนุนการพัฒนาการประเมินโมเดลและการทดสอบ Red Teaming เพื่อช่วยในการทดสอบเทคนิคสำหรับศักยภาพที่เป็นอันตรายของระบบขั้นสูง ซึ่งจะช่วยยกระดับมาตรฐานความปลอดภัยและความมั่นคงของ AI
Meridian Institute จะเป็นผู้บริหารจัดการกองทุน และจะมีการเปิดรับข้อเสนอโครงการในอีกไม่กี่เดือนข้างหน้า
ศัพท์ที่ควรรู้
- Frontier models – โมเดล AI ขั้นสูงที่มีขีดความสามารถก้าวหน้าอย่างรวดเร็ว
- AI Safety Fund – กองทุนใหม่ที่จัดตั้งขึ้นเพื่อสนับสนุนการวิจัยด้านความปลอดภัยของ AI
- Red Teaming – การทดสอบอย่างเข้มข้นเพื่อค้นหาจุดอ่อนหรือศักยภาพที่เป็นอันตรายของโมเดล AI
- Philanthropic partners – พันธมิตรทางการกุศลที่ให้การสนับสนุนทางการเงินและทรัพยากร
ที่มา: OpenAI