OpenAI มุ่งมั่นให้ AI มีความยุติธรรม ปลอดภัย และเปิดให้เข้าถึงได้ เพื่อให้ผู้คนนำไปใช้แก้ปัญหาที่ซับซ้อน สร้างโอกาส และเกิดประโยชน์ในด้านสุขภาพ วิทยาศาสตร์ การศึกษา การทำงาน และชีวิตประจำวัน
การริเริ่มเหล่านี้มีเป้าหมายเพื่อทำให้การเปลี่ยนผ่านสู่ AGI เป็นไปอย่างค่อยเป็นค่อยไป สามารถปรับตัวได้ และโปร่งใสต่อสาธารณะ โดยให้เวลาในการปรับตัวและสร้างมาตรการป้องกัน รวมถึงความเข้าใจในระดับสาธารณะที่จำเป็นสำหรับการควบคุม AI ที่ทรงพลังให้สอดคล้องกับผลประโยชน์ของมนุษย์
ทำไมต้องระบุใน Model Spec
ตัวอย่างเช่น การแนะนำให้แสดงวิธีคิดก่อนตอบปัญหาที่ต้องคำนวณนั้น ปัจจุบันโมเดลเรียนรู้พฤติกรรมนี้ผ่าน reinforcement learning แล้ว ส่วนนโยบายอื่น ๆ เกี่ยวข้องกับข้อจำกัดของบริบทที่ใช้งานจริง เช่น ผู้ช่วยจะอ้างอิงจากสิ่งที่สังเกตได้ในการโต้ตอบปัจจุบันเท่านั้น
AI ขั้นสูงควรจะเข้าใจเองได้หรือไม่
เมื่อระบบมีความเป็นอิสระมากขึ้น ความน่าเชื่อถือและความไว้วางใจจะขึ้นอยู่กับทักษะที่กว้างขึ้น เช่น การสื่อสารความไม่แน่นอน การเคารพขอบเขตของความเป็นอิสระ การหลีกเลี่ยงปัญหาที่ไม่คาดคิด การติดตามเจตนา และการใช้เหตุผลเกี่ยวกับค่านิยมของมนุษย์ในบริบทนั้น ๆ
องค์ประกอบของ Spec ที่ดี
เช่น การระบุว่า “อย่าโกหก” นั้นขัดแย้งกับ “จงอบอุ่น” ซึ่งหมายถึงผู้ช่วยควรปฏิบัติตามบรรทัดฐานของความสุภาพ แต่ต้องหลีกเลี่ยงการพูดเกินจริงที่อาจกลายเป็นการประจบสอพลอหรือขัดต่อผลประโยชน์สูงสุดของผู้ใช้
ที่มา: OpenAI