สำหรับ AGI ที่จะให้ประโยชน์แก่มนุษยชาติ เราเชื่อว่าต้องมีการกำกับดูแลอย่างเป็นประชาธิปไตย และเราจะตอบสนองอย่างเหมาะสม รวมถึงการชะลอหรือหยุดการพัฒนา หากพบความเสี่ยงด้านความปลอดภัยที่ยอมรับไม่ได้
หลังเหตุการณ์กับ Hugging Face เราได้นำคำมั่นนี้มาปฏิบัติ โดยการระงับการฝึกฝน reinforcement learning (RL) บนโมเดลล่าสุดที่เตรียมใช้งาน ขณะที่เราเสริมความแข็งแกร่งและทดสอบสภาพแวดล้อมการวิจัยและขยายระบบการติดตามให้ครอบคลุมมากขึ้น
3. งานที่นักวิจัยใช้เอเจนต์นั้นกำลังเปลี่ยนแปลง
การจำแนกประเภทนี้ได้รับแรงบันดาลใจจากระบบ O*NET สำหรับการจัดประเภทงาน และแบ่งกระบวนการออกเป็น 6 ระยะหลัก ซึ่งการใช้เอเจนต์ช่วยให้พบว่าอัตราความสำเร็จโดยรวมเพิ่มขึ้นในหลายระดับความยากในช่วงเดือนมกราคมถึงกรกฎาคม สำหรับงานที่เราสามารถหาผลลัพธ์ที่แท้จริงได้
4. การกำหนดจังหวะการพัฒนาโมเดล
รูปแบบนี้สอดคล้องกับการแทนที่การฝึกฝนและการทดลองบางส่วนด้วยโมเดลที่ไม่ใช่ Astra ขณะที่งานที่เกี่ยวข้องกับ Astra ถูกจำกัด และตรงกับรายงานที่ว่านักวิจัยพบการใช้งานคอมพิวต์อื่นที่อาจไม่สามารถนำมาใช้กับข้อจำกัดใหม่ได้
ศัพท์ที่ควรรู้
- AGI – Artificial General Intelligence หมายถึง AI ที่มีความสามารถเทียบเท่าหรือใกล้เคียงกับสติปัญญาของมนุษย์
- Reinforcement Learning (RL) – เป็นรูปแบบการเรียนรู้ของ AI ที่ตัวแทนเรียนรู้จากการลองผิดลองถูกเพื่อเพิ่มประสิทธิภาพ
- Hugging Face incident – เหตุการณ์ที่เกิดขึ้นกับแพลตฟอร์ม Hugging Face ซึ่งเป็นจุดที่ OpenAI นำมาตรการด้านความปลอดภัยมาใช้
- Agentic classifier – ตัวจำแนกที่ทำงานโดยใช้เอเจนต์ AI เพื่อช่วยในการจัดประเภทงานวิจัย
ที่มา: OpenAI