OpenAI เปิดตัว Image Classifier ใหม่และคำเตือนใน ChatGPT สกัดกั้น CSAM

OpenAI ได้ประกาศเครื่องมือใหม่เพื่อรับมือกับสื่อลามกอนาจารเด็ก (CSAM) ท่ามกลางความกังวลด้านความปลอดภัยที่เพิ่มขึ้นจากการใช้ AI เครื่องมือเหล่านี้ประกอบด้วย Image classifier ใหม่เพื่อตรวจจับ CSAM, คำเตือนและระบบบล็อกชั่วคราวเพื่อป้องกันผู้ใช้จากการสร้างหรือเข้าถึงเนื้อหาที่ทำให้เด็กถูกทำให้เป็นวัตถุทางเพศ, แนวทางสำหรับนักพัฒนา และชุดเครื่องมือสำหรับหน่วยงานบังคับใช้กฎหมาย

เครื่องมือนี้ค้นหาสัญญาณทางภาพของการถูกล่วงละเมิดในภาพที่ไม่เคยเห็นมาก่อนและให้คะแนนเพื่อเป็นแนวทางแก่ผู้ตรวจสอบในการจัดการกับ CSAM ในการทดสอบช่วงแรกกับพันธมิตร บริษัท AI พบว่า classifier สามารถติดป้ายภาพได้น้อยลง 48% ขณะที่ยังคงพบภาพที่มีปัญหาได้จำนวนเท่าเดิม ซึ่งช่วยลดภาระงานของผู้ตรวจสอบ

สำหรับ ChatGPT จะแสดงการแจ้งเตือนแก่ผู้ใช้ที่ใช้พรอมต์ดังกล่าว ชี้แนะไปยังการสนับสนุนเฉพาะทางเพื่อหยุดพฤติกรรมที่เป็นอันตราย และอาจระงับบัญชีเป็นเวลา 24 ชั่วโมงเพื่อเป็นคำเตือน

OpenAI ระบุว่าได้ร่วมมือกับองค์กรและนักวิจัย เช่น Protect Children, Lucy Faithfull Foundation และ Joel Scanlan แห่ง University of Tasmania ในการกำหนดข้อความและแนวทางเหล่านี้

นอกจากนี้ บริษัทยังได้ติดตั้งฟีเจอร์ที่ขับเคลื่อนด้วย AI สำหรับหน่วยงานบังคับใช้กฎหมาย เช่น ปลั๊กอินเฉพาะทาง เครื่องมือสืบสวน และการวิเคราะห์ข้อมูลที่ซับซ้อน โดยมีการจัดการการเข้าถึงโดยผู้ดูแลโปรแกรม

ศัพท์ที่ควรรู้

  • CSAM – คือสื่อลามกอนาจารเด็ก ซึ่งเป็นเนื้อหาที่เกี่ยวข้องกับการแสวงหาประโยชน์ทางเพศจากเด็ก
  • Image classifier – คือเครื่องมือ AI ที่ถูกฝึกมาเพื่อจำแนกและตรวจจับภาพที่มีเนื้อหาเฉพาะ เช่น CSAM
  • ChatGPT – คือโมเดลภาษา AI ที่สามารถแสดงการแจ้งเตือนและจำกัดการใช้งานเมื่อพบพฤติกรรมที่ไม่เหมาะสม
  • ชันพบ (Flag) – ในบริบทนี้หมายถึงการที่ระบบ AI ทำเครื่องหมายหรือระบุว่าเนื้อหานั้นเข้าข่ายต้องสงสัยว่าเป็นอันตราย

ที่มา: TechCrunch

Leave a Comment