Cohere, OpenAI และ AI21 Labs ได้พัฒนาชุดแนวทางปฏิบัติเบื้องต้นที่สามารถนำไปใช้ได้กับองค์กรใดก็ตามที่กำลังพัฒนาหรือใช้งานแบบจำลองภาษาขนาดใหญ่ (LLM) ซึ่งเป็นก้าวสำคัญในการสร้างชุมชนเพื่อรับมือกับความท้าทายระดับโลกจากความก้าวหน้าของ AI
ห้ามการนำไปใช้ในทางที่ผิด
การใช้งานควรระบุขอบเขตที่ต้องตรวจสอบอย่างเข้มงวด และต้องห้ามกรณีการใช้งานที่มีความเสี่ยงสูง เช่น การจำแนกบุคคลตามลักษณะที่ได้รับการคุ้มครอง
บรรเทาอันตรายที่ไม่ได้ตั้งใจ
ควรมีการจัดทำเอกสารเกี่ยวกับจุดอ่อนและความเปราะบางที่ทราบ เช่น อคติ หรือความสามารถในการสร้างโค้ดที่ไม่ปลอดภัย เนื่องจากบางครั้งการป้องกันทั้งหมดอาจไม่สามารถกำจัดศักยภาพของอันตรายที่ไม่ได้ตั้งใจได้
ร่วมมือกับผู้มีส่วนได้ส่วนเสียอย่างรอบคอบ
ผู้ให้บริการควรมีมาตรฐานสูงสำหรับสภาพการทำงานของผู้ที่ตรวจสอบผลลัพธ์ของแบบจำลอง และกำหนดมาตรฐานสำหรับผู้ขาย เช่น การรับรองว่าผู้ติดป้ายสามารถเลือกที่จะไม่ทำงานในงานนั้นๆ ได้
การสนับสนุนจากองค์กรอื่น ๆ เช่น Anthropic และ Microsoft ต่างก็เน้นย้ำว่าการจัดการความเสี่ยงมีความสำคัญอย่างยิ่งเมื่อ LLM มีความสามารถสูงขึ้น
ศัพท์ที่ควรรู้
- LLM – Large Language Model คือแบบจำลองภาษาขนาดใหญ่ ซึ่งเป็น AI ที่ใช้ในการประมวลผลภาษาของมนุษย์
- Bias – อคติ คือความเอนเอียงหรือความลำเอียงที่อาจมีอยู่ในข้อมูลหรือผลลัพธ์ของแบบจำลอง
- Vulnerabilities – จุดอ่อน คือข้อบกพร่องในระบบที่อาจถูกโจมตีหรือถูกใช้ประโยชน์ในทางที่ไม่ถูกต้อง
- Stakeholders – ผู้มีส่วนได้ส่วนเสีย คือบุคคลหรือกลุ่มต่างๆ ที่ได้รับผลกระทบจากการใช้งานเทคโนโลยีนั้นๆ
ที่มา: OpenAI