OpenAI ได้เปิดตัว Privacy Filter ซึ่งเป็นโมเดลแบบ open-weight สำหรับตรวจจับและปกปิดข้อมูลที่สามารถระบุตัวตนของบุคคล (PII) ในข้อความ การเปิดตัวนี้เป็นส่วนหนึ่งของความพยายามที่กว้างขึ้นในการสนับสนุนระบบนิเวศซอฟต์แวร์ที่แข็งแกร่งขึ้น โดยการมอบโครงสร้างพื้นฐานที่ใช้งานได้จริงให้แก่ผู้พัฒนาเพื่อสร้างสรรค์งานด้วย AI อย่างปลอดภัย
โมเดลขนาดเล็กพร้อมความสามารถตรวจจับข้อมูลส่วนบุคคลระดับแนวหน้า
การที่โมเดลมีขนาดเล็กทำให้สามารถรันแบบโลคัลได้ นั่นหมายความว่าข้อมูลที่ยังไม่ได้ถูกกรองสามารถคงอยู่บนอุปกรณ์ ซึ่งมีความเสี่ยงต่อการเปิดเผยน้อยกว่าการส่งไปยังเซิร์ฟเวอร์เพื่อทำการระบุตัวตนใหม่
ภาพรวมโมเดล
โมเดลนี้มีหมวดหมู่ account_number ช่วยในการปกปิดหมายเลขบัญชีหลากหลายประเภท รวมถึงข้อมูลธนาคาร เช่น หมายเลขบัตรเครดิต และหมายเลขบัญชีธนาคาร ส่วน secret ช่วยปกปิดข้อมูลเช่น รหัสผ่านและ API keys
วิธีการสร้าง
การสร้างโมเดลนี้เริ่มต้นจากการระบุตัวตนส่วนบุคคล รายละเอียดการติดต่อ ที่อยู่ วันที่ส่วนตัว หมายเลขบัญชีต่างๆ และความลับ เช่น API keys และรหัสผ่าน จากนั้นจึงแปลง pretrained language model ให้เป็น bidirectional token classifier และทำการฝึกฝนเพิ่มเติมด้วยวัตถุประสงค์การจำแนกแบบมีผู้สอน
ความพร้อมใช้งาน
นอกเหนือจากตัวโมเดลแล้ว ทางทีมยังได้แบ่งปันเอกสารประกอบที่ครอบคลุมสถาปัตยกรรมโมเดล, การจำแนกป้ายกำกับ, การควบคุมการถอดรหัส, กรณีการใช้งานที่ตั้งใจ, การตั้งค่าการประเมิน และข้อจำกัดที่ทราบ เพื่อให้ทีมงานเข้าใจทั้งจุดแข็งและจุดที่ควรใช้อย่างระมัดระวังของโมเดล
ศัพท์ที่ควรรู้
- OpenAI Privacy Filter – โมเดลที่ OpenAI สร้างขึ้นเพื่อตรวจจับและปกปิดข้อมูลส่วนบุคคลในข้อความ
- PII – Personally Identifiable Information หมายถึง ข้อมูลใดๆ ที่สามารถระบุตัวตนของบุคคลได้ เช่น ชื่อ ที่อยู่ หรือหมายเลขบัญชี
- Open-weight model – โมเดลที่เปิดเผยน้ำหนัก (weights) ทำให้ผู้ใช้สามารถนำไปปรับใช้และรันเองได้
- Account_number category – หมวดหมู่ที่ใช้ในการตรวจจับและปกปิดหมายเลขบัญชีต่างๆ เช่น บัตรเครดิต หรือบัญชีธนาคาร
ที่มา: OpenAI