บริษัท AI จีนถอดรหัสการฝึก LLM ท่ามกลางมาตรการควบคุมชิปของสหรัฐฯ

ในขณะที่สหรัฐฯ เข้มงวดมาตรการควบคุมการส่งออก บริษัท AI และนักวิจัยในจีนได้หาวิธีการที่สร้างสรรค์เพื่อหลีกเลี่ยงข้อจำกัดทางการค้าเหล่านี้ โดยการเพิ่มการพึ่งพาเทคนิค Model Distillation ซึ่งเป็นการนำเอาผลลัพธ์จากโมเดลชั้นนำของสหรัฐฯ มาใช้เป็นข้อมูลฝึกฝนโมเดลท้องถิ่น

การใช้งานนี้ได้ขยายจากแค่การทดลองทางวิชาการสู่การใช้งานเชิงอุตสาหกรรมในจีนแล้ว สำหรับบริษัท AI จีนที่ประสบปัญหาในการเข้าถึงฮาร์ดแวร์คอมพิวต์ เช่น NVIDIA GPUs ทางเลือกคือการนำคำถามเดียวไปใช้เป็นข้อมูลฝึกฝนสำหรับโมเดลในประเทศ

ตัวอย่างเช่น ในเดือนพฤศจิกายน 2024 นักวิจัยจาก Shanghai Jiao Tong University ได้เลือกคำตอบประมาณ 5,000 รายการจากโมเดล o1 ของ OpenAI แปลด้วย GPT-4o mini และรวบรวมเป็นชุดข้อมูลฝึกฝนสองภาษา 10,750 ชุด เพื่อฝึกโมเดล Qwen2.5-72B ของ Alibaba ต่อมาในเดือนกุมภาพันธ์ 2026 ก็มีการใช้ GPT-4o เพื่อสร้างแผนการทำงานร่วมกันของหลายเอเจนต์สำหรับงานเขียนโค้ด เพื่อฝึกโมเดลในประเทศขนาดเล็ก

เจ้าหน้าที่สหรัฐฯ ที่ติดตามการหารือในเฉิงตูระบุว่า พวกเขามองว่า “industrial-scale distillation” นี้เป็นปัจจัยหลักที่ทำให้โมเดล AI ของจีนลดช่องว่างด้านประสิทธิภาพกับคู่แข่งในสหรัฐฯ ได้ ในขณะที่ข้อจำกัดการส่งออกชิป NVIDIA นั้นเข้มงวดขึ้น การเลือกของจีนในการชะลอความก้าวหน้าด้าน AI จึงดูมีจำกัด

ศัพท์ที่ควรรู้

  • Model Distillation – เป็นเทคนิคที่นำเอาผลลัพธ์จากโมเดลที่มีประสิทธิภาพสูงมาใช้ในการฝึกโมเดลใหม่ให้มีขนาดเล็กลงและเรียนรู้จากโมเดลต้นฉบับ
  • NVIDIA GPUs – คือหน่วยประมวลผลกราฟิกของ NVIDIA ที่ถูกใช้เป็นฮาร์ดแวร์ในการฝึกโมเดล AI ซึ่งปัจจุบันมีข้อจำกัดด้านการส่งออก
  • GPT-4o mini – คือโมเดลภาษาขนาดใหญ่ของ OpenAI ที่ถูกนำมาใช้ในการแปลและช่วยในการฝึกโมเดลอื่น
  • Qwen2.5-72B – คือโมเดล AI ที่พัฒนาโดย Alibaba ซึ่งเป็นเป้าหมายในการฝึกฝนโดยใช้ข้อมูลจากโมเดลภายนอก

ที่มา: Wccftech

Leave a Comment