การใช้การโต้วาทีเพื่อความปลอดภัยของ AI
หนึ่งในแนวทางในการทำให้ AI สอดคล้องกับเป้าหมายของมนุษย์คือการให้มนุษย์ระบุพฤติกรรมที่ปลอดภัยและมีประโยชน์ในระหว่างการฝึกฝน อย่างไรก็ตาม…
Alignment
OpenAI นำเสนอการสรุปหนังสือเพื่อแก้ปัญหา Alignment ของ AI
การทำให้ AI ทรงพลังทำงานตามเจตนาของมนุษย์เป็นเรื่องสำคัญ ซึ่งเรียกว่าปัญหา Alignment และทีมงานได้ทดสอบเทคนิคการปรับให้เข้ากันได้ด้วยการให้โม…
OpenAI เผยแนวทางการวิจัย Alignment เพื่อให้ AGI สอดคล้องกับมนุษย์
OpenAI มุ่งเน้นการวิจัย Alignment เพื่อให้ Artificial General Intelligence (AGI) สอดคล้องกับค่านิยมและเจตนาของมนุษย์…
OpenAI เปิดโค้ดและทุนสนับสนุนงานวิจัยเรื่องการปรับให้ AI เหนือมนุษย์มีความปลอดภัย
OpenAI ได้เผยแพร่โค้ดโอเพนซอร์สและเปิดตัวโครงการให้ทุนมูลค่า 10 ล้านดอลลาร์ เพื่อเร่งการวิจัยด้านการปรับให้ AI…
OpenAI เผยการตรวจสอบการใช้ประโยชน์จากช่องโหว่ในโมเดลให้เหตุผลขั้นสูง
โมเดลให้เหตุผลแบบ Chain-of-Thought (CoT) สามารถคิดเป็นภาษาธรรมชาติที่มนุษย์เข้าใจได้ ซึ่งคล้ายกับการที่มนุษย์อาจหาช่องโหว่เพื่อใช้ประโยชน์จา…
OpenAI เผยระบบตรวจสอบการทำงานของ Frontier Model เพื่อตรวจจับความคลาดเคลื่อน
เมื่อฝึก AI รุ่นที่มีความสามารถสูงขึ้น การตรวจจับว่าพฤติกรรมของโมเดลเบี่ยงเบนไปจากที่ตั้งใจไว้นั้นเป็นสิ่งจำเป็น OpenAI…