Deep learning เป็นวิทยาศาสตร์เชิงประจักษ์ ดังนั้นคุณภาพของโครงสร้างพื้นฐานจึงเป็นตัวทวีคูณความก้าวหน้าในการวิจัย ซึ่งโครงสร้างพื้นฐานสำหรับ Deep learning ต้องช่วยให้ผู้ใช้สามารถตรวจสอบโมเดลได้อย่างยืดหยุ่น ไม่ใช่แค่แสดงสถิติสรุปเท่านั้น
เพื่อให้ AI มีความน่าประทับใจอย่างแท้จริง จำเป็นต้องมีการปรับขนาด ซึ่งเครือข่ายประสาทขนาดเล็กเป็นเพียงแนวคิดพิสูจน์ แต่เครือข่ายขนาดใหญ่ต่างหากที่แก้ปัญหาและมีประโยชน์
ในส่วนของฮาร์ดแวร์ คาดว่าจะใช้ Hybrid Cloud ในระยะยาว เพื่อทดลองกับ GPU, interconnects และเทคนิคอื่นๆ ที่อาจสำคัญต่ออนาคตของ Deep learning ขณะเดียวกันก็มีเครื่องมือช่วยให้โค้ดจากแล็ปท็อปนักวิจัยสามารถทำงานใน image มาตรฐานได้อย่างรวดเร็ว
ตัวอย่างเช่น การทดลองหนึ่งได้ขยายจาก Titan X เดี่ยว ไปสู่ 60 Titan X และสุดท้ายต้องใช้ AWS GPUs เกือบ 1600 ในช่วงเวลาเพียงไม่กี่สัปดาห์
ที่มา: OpenAI