หัวข้อ: เมื่อคอนเทนต์ AI ท่วมอินเทอร์เน็ต สตาร์ทอัป Pangram ระดมทุน 9 ล้านดอลลาร์เพื่อตรวจจับมัน

สตาร์ทอัปตรวจจับ AI จากนิวยอร์กชื่อ Pangram มีภารกิจในการต่อสู้กับการแพร่ระบาดของคอนเทนต์ AI ที่ไร้คุณภาพ (AI slop) ซึ่งกำลังกระจายไปทั่วอินเทอร์เน็ต และเพิ่งระดมทุนได้ 9 ล้านดอลลาร์ โดยเดิมพันว่าความต้องการเครื่องมือที่แยกแยะคอนเทนต์ที่มนุษย์สร้างขึ้นจากข้อความที่ AI สร้างขึ้นจะเพิ่มขึ้นเท่านั้น การระดมทุนของ Pangram — นำโดย Menlo Ventures โดยมี Haystack, ScOp, Script Capital และ Cadenza ร่วมลงทุน — เกิดขึ้นพร้อมกับการเปิดตัวโมเดลตรวจจับข้อความ AI รุ่นใหม่ Pangram 4 และโมเดลตรวจจับภาพ AI ชื่อ Pangram Image Pangram กล่าวว่าโมเดลตรวจจับข้อความใหม่มีความแม่นยำมากกว่า 99% ในการค้นหางานเขียนที่ได้รับความช่วยเหลือจาก AI และคอนเทนต์ที่ผสมระหว่างมนุษย์กับ AI รวมถึงสามารถตรวจจับโปรแกรมที่ทำให้ AI ดูเหมือนมนุษย์ (AI humanizer programs) ได้ง่ายขึ้น ส่วนตัวตรวจจับภาพ AI ยังคงให้บริการเฉพาะในรูปแบบการวิจัยเบื้องต้น (research preview) เท่านั้น โดย Pangram วางแผนที่จะปล่อยให้ใช้งานอย่างกว้างขวางในอีกไม่กี่สัปดาห์ข้างหน้า Max Spero และ Bradley Emi ผู้สำเร็จการศึกษาด้าน AI และ machine learning จาก Stanford เปิดตัว Pangram ประมาณสองปีที่แล้ว หลังจากที่ ChatGPT เปิดตัวทำให้เกิดกระแสอินเทอร์เน็ตที่เต็มไปด้วยบอท คอนเทนต์ SEO ที่สร้างโดย AI (AI-generated SEO slop content) และสิ่งที่ Spero เรียกว่า “แคมเปญข้อมูลบิดเบือนของรัสเซียที่ขับเคลื่อนด้วย LLM และแคมเปญที่มีอิทธิพลจากสหรัฐอาหรับเอมิเรตส์บน Twitter” “ผมคิดว่ามันมีค่าอย่างเหลือเชื่อที่จะรู้ว่าสิ่งที่คุณกำลังดูอยู่นั้นเป็นสิ่งที่สร้างโดย AI หรือไม่” Spero กล่าวกับ TechCrunch “โดยเฉพาะข้อความที่คุณกำลังอ่าน เพราะมันเปลี่ยนวิธีที่ผู้คนเข้าถึงข้อความนั้น นี่คือสิ่งที่ฉันต้องระวังเรื่องภาพหลอน (hallucinations) และตั้งข้อสงสัย หรือนี่คือสิ่งที่ฉันเชื่อว่าได้รับการวิจัยมาอย่างดีจากนักข่าวจริงๆ?” ระบบตรวจจับ AI ของ Pangram โดยพื้นฐานแล้วเป็นโมเดล machine learning ขนาดใหญ่ที่ถูกฝึกด้วยเอกสารของมนุษย์ที่รู้จักหลายสิบล้านชิ้น จากนั้นสตาร์ทอัปได้สร้าง “กระจกสังเคราะห์” (synthetic mirror) สำหรับแต่ละเอกสาร โดยจำลองหัวข้อ ความยาว และน้ำเสียง แต่เขียนโดย LLM ชั้นนำ “โมเดลของเราเรียนรู้ความแตกต่างทางสไตล์และตัวเลือกที่ AI ทำอย่างสม่ำเสมอ และสามารถใช้สิ่งนั้นเพื่อเรียนรู้ว่าอะไรทำให้บางสิ่งถูกสร้างโดย AI ด้วยความมั่นใจสูง” Spero กล่าว พร้อมเสริมว่าตัวตรวจจับ AI ไม่ได้พึ่งพา metadata การคัดลอก-วาง หรือลายน้ำที่ซ่อนอยู่ (hidden watermarks) สำหรับ Pangram การตรวจจับ AI ไม่ได้เกี่ยวกับว่าข้อความชิ้นหนึ่งถูกเขียนโดย AI ทั้งหมดหรือไม่เท่านั้น แต่ยังเกี่ยวกับการแยกแยะระดับความช่วยเหลือของ AI เช่น ในกรณีของคนที่เขียนบางสิ่งด้วยตัวเอง แต่ขอให้ AI แก้ไขหรือทำให้สะอาดขึ้น Spero เชื่อว่าความช่วยเหลือของ AI สามารถยอมรับได้ ตราบใดที่ผู้เขียนเปิดเผยการใช้ AI ของตน Image Credits: Pangram การเกิดขึ้นของ Pangram เกิดขึ้นในช่วงเวลาที่การใช้ AI กลายเป็นเรื่องปกติมากขึ้น ในบางกรณี เช่น นักการเมืองแคนาดาที่อ่าน prompt ของ AI ออกเสียงในสุนทรพจน์ต่อสภา ความผิดพลาดเหล่านั้นนำไปสู่การเยาะเย้ย ในกรณีอื่นๆ เช่น ทนายความบางคนที่ใช้ข้อมูลอ้างอิงปลอมที่สร้างโดย ChatGPT ในการโต้แย้งคดี ผลที่ตามมาอาจเป็นการลงโทษและค่าปรับ การต่อต้านนี้เริ่มปรากฏในกฎของสถาบันต่างๆ เช่น arXiv คลังข้อมูลแบบเปิด (open-access archive) ได้แนะนำนโยบายใหม่

แหล่งที่มา: techcrunch

คำศัพท์เทคนิคที่น่าสนใจ

• AI (Artificial Intelligence) – ปัญญาประดิษฐ์ เทคโนโลยีที่ทำให้คอมพิวเตอร์เลียนแบบความฉลาดของมนุษย์ เช่น การเรียนรู้ การตัดสินใจ
• AI slop – เนื้อหาที่สร้างโดย AI อย่างรวดเร็วและไม่มีคุณภาพ มักมีจุดประสงค์เพื่อปริมาณมากกว่าคุณภาพ
• AI humanizer programs – โปรแกรมที่ปรับแต่งข้อความจาก AI ให้ฟังดูเป็นธรรมชาติเหมือนมนุษย์ เพื่อหลีกเลี่ยงการตรวจจับ
• Machine Learning – การเรียนรู้ของเครื่องจักร สาขาหนึ่งของ AI ที่ให้คอมพิวเตอร์เรียนรู้จากข้อมูลโดยไม่ต้องเขียนโปรแกรมทุกขั้นตอน
• Bot – โปรแกรมอัตโนมัติที่ทำงานซ้ำๆ เช่น การโพสต์ข้อความหรือตอบกลับในโซเชียลมีเดีย
• SEO (Search Engine Optimization) – การปรับแต่งเนื้อหาให้ติดอันดับบนเครื่องมือค้นหา เช่น Google เพื่อเพิ่มการมองเห็น
• AI-generated SEO slop content – เนื้อหาที่สร้างโดย AI เพื่อหลอกให้ติดอันดับค้นหา แต่ไม่มีคุณค่าหรือข้อมูลที่เป็นประโยชน์
• LLM (Large Language Model) – โมเดลภาษาขนาดใหญ่ เช่น ChatGPT ที่สามารถสร้างข้อความที่เหมือนมนุษย์ได้
• Hallucinations – การที่ AI สร้างข้อมูลที่ดูเหมือนจริงแต่ไม่ถูกต้องหรือไม่มีอยู่จริง
• Synthetic mirror – ภาพจำลองที่สร้างขึ้นโดย AI เพื่อเปรียบเทียบกับของจริง เช่น การสร้างข้อความเลียนแบบมนุษย์
• Metadata – ข้อมูลที่อธิบายข้อมูลอื่น เช่น วันที่สร้าง ผู้เขียน หรือตำแหน่งของไฟล์
• Hidden watermarks – เครื่องหมายที่ซ่อนอยู่ในข้อมูล (เช่น ข้อความหรือรูปภาพ) เพื่อระบุแหล่งที่มาหรือความเป็นเจ้าของ
• Prompt – คำสั่งหรือข้อความที่ป้อนให้ AI เพื่อสร้างผลลัพธ์ เช่น การถามคำถามหรือขอให้เขียนบทความ
• Open-access archive – คลังข้อมูลที่ทุกคนเข้าถึงได้ฟรีโดยไม่มีข้อจำกัดด้านค่าใช้จ่ายหรือสิทธิ์
• Research preview – เวอร์ชันทดลองสำหรับนักวิจัยเท่านั้น ยังไม่เปิดให้ใช้งานทั่วไป