ด้วยความนิยมที่เพิ่มขึ้นของ Generative Artificial Intelligence โมเดลโอเพนซอร์สจำนวนมากถูกนำไปใช้ในการปรับแต่งสำหรับงานต่างๆ แต่ก็ถูกผู้ไม่หวังดีนำไปใช้สร้างเนื้อหาผิดกฎหมาย เช่น Hate Speech หรือ Child Sexual Abuse Material (CSAM)
ปัญหาดังกล่าวรุนแรงขึ้น โดย National Center for Missing and Exploited Children ได้รับรายงาน CSAM ที่สร้างจาก AI มากกว่า 1.5 ล้านฉบับในปี 2025 เทียบกับ 67,000 ฉบับในปี 2024
แทนที่จะมุ่งเน้นที่ผลลัพธ์ (output) ทีมนักวิจัยได้มุ่งเป้าไปที่การปรับเปลี่ยนที่เกิดขึ้นในระหว่างการ Fine-tuning ของอัลกอริทึม LoRA โดยใช้เทคนิค Gaussian probing เพื่อวิเคราะห์การปรับแต่งเหล่านี้โดยไม่จำเป็นต้องสร้างภาพใดๆ
ดังนั้น พวกเขาจึงสามารถระบุได้ว่าโมเดลถูกปรับให้มีความสามารถในการสร้างเนื้อหาที่เป็นอันตรายหรือไม่ โดยไม่ต้องรันโมเดลจนถึงขั้นตอนสุดท้ายหรือป้อน Prompt เพื่อสร้างภาพ
ศัพท์ที่ควรรู้
- Generative Artificial Intelligence – ปัญญาประดิษฐ์เชิงกำเนิด คือ AI ที่สามารถสร้างเนื้อหาใหม่ๆ ขึ้นมาได้ เช่น รูปภาพหรือข้อความ
- Open-source models – โมเดลที่เปิดเผยซอร์สโค้ด ทำให้ทุกคนสามารถนำไปปรับใช้หรือศึกษาต่อได้
- CSAM – Child Sexual Abuse Material คือ เนื้อหาที่เกี่ยวข้องกับการล่วงละเมิดทางเพศของเด็ก ซึ่งถือเป็นสิ่งผิดกฎหมาย
- LoRA algorithm – เป็นอัลกอริทึมที่ใช้ในการปรับแต่งโมเดล AI โดยเฉพาะ ทำให้การปรับแต่งมีประสิทธิภาพและจำกัดขอบเขต
- Gaussian probing – เทคนิคที่นักวิจัยใช้ในการป้อนข้อมูลสุ่มเข้าไปในโมเดลเพื่อวิเคราะห์การทำงานภายในของมัน
ที่มา: news.mit.edu