OpenAI วิเคราะห์การใช้พลังการประมวลผลในการฝึก AI เพิ่มขึ้นแบบทวีคูณ

เราได้เผยแพร่การวิเคราะห์ที่แสดงให้เห็นว่า นับตั้งแต่ปี 2012 ปริมาณการประมวลผลที่ใช้ในการฝึก AI ขนาดใหญ่ได้เพิ่มขึ้นแบบทวีคูณ โดยมีช่วงเวลาการเพิ่มขึ้นเป็นสองเท่าอยู่ที่ 3.4 เดือน ซึ่งแตกต่างจากกฎของมัวร์ที่มีช่วงเวลาอยู่ที่ 2 ปี

เมื่อพิจารณาข้อมูลทั้งหมด เราเห็นการแบ่งยุคของการฝึก AI เป็นสองช่วง คือ ยุคแรก (1959 ถึง 2012) ที่สอดคล้องกับกฎของมัวร์ และยุคปัจจุบัน (2012 ถึงปัจจุบัน) ที่ใช้พลังการคำนวณที่ก้าวหน้ากว่าแนวโน้มใหญ่มาก

แม้ว่าประวัติศาสตร์การลงทุนใน AI มักถูกเล่าว่าเป็นเรื่องของช่วงขาขึ้นและขาลง แต่แนวโน้มการใช้พลังการคำนวณของระบบการเรียนรู้ไม่ได้สะท้อนเช่นนั้น

จากข้อมูลนี้ เราเชื่อว่าผู้กำหนดนโยบายควรพิจารณาเพิ่มเงินทุนสำหรับการวิจัย AI เชิงวิชาการ เนื่องจากงานวิจัยบางประเภทมีความเข้มข้นด้านการคำนวณและมีค่าใช้จ่ายสูงขึ้นอย่างชัดเจน

การเพิ่มขึ้นของพลังการคำนวณ

การปรับปรุงด้านการประมวลผลเป็นองค์ประกอบสำคัญของความก้าวหน้าด้าน AI ตราบใดที่แนวโน้มนี้ยังคงอยู่ เราต้องเตรียมพร้อมสำหรับผลกระทบของระบบที่อยู่ไกลจากขีดความสามารถในปัจจุบัน

การแบ่งยุคของการฝึก AI

เราเห็นการแบ่งยุคการฝึก AI ออกเป็นสองยุค คือ ยุคแรก (1959 ถึง 2012) ที่ผลลัพธ์สอดคล้องกับกฎของมัวร์ และยุคสมัยใหม่ (2012 ถึงปัจจุบัน) ที่ใช้พลังการคำนวณที่เหนือกว่าแนวโน้มใหญ่มาก

ข้อเสนอแนะสำหรับผู้กำหนดนโยบาย

เราเชื่อว่าผู้กำหนดนโยบายควรพิจารณาเพิ่มเงินทุนสำหรับการวิจัย AI เชิงวิชาการ เนื่องจากงานวิจัยบางประเภทมีความต้องการพลังการคำนวณที่สูงและมีค่าใช้จ่ายสูงมากในปัจจุบัน

ศัพท์ที่ควรรู้

  • Moore’s Law – กฎของมัวร์คือแนวโน้มทางเทคโนโลยีที่คาดว่าจำนวนทรานซิสเตอร์บนชิปจะเพิ่มขึ้นตามเวลา
  • Compute – หมายถึงพลังการประมวลผลที่ใช้ในการคำนวณ ซึ่งเป็นปัจจัยสำคัญในการฝึก AI
  • Doubling time – ช่วงเวลาที่ปริมาณการประมวลผลเพิ่มขึ้นเป็นสองเท่า ซึ่งในยุคปัจจุบันใช้เวลาเพียง 3.4 เดือน

ที่มา: OpenAI

Leave a Comment