เบื้องหลังระบบคอมพิวเตอร์ของ OpenAI กับการทำงานวิศวกรรมขั้นสูง

อะไรที่ทำให้คุณสนใจด้านวิศวกรรมเป็นครั้งแรก?

ความสนใจเริ่มต้นขึ้นเมื่อสมัยมัธยม โดยใช้ภาษา BASIC บนเครื่องคิดเลข Texas Instruments ก่อนจะพัฒนาไปสู่โปรแกรมที่ซับซ้อนขึ้น เช่น โปรแกรมช่วยแสดงวิธีของนิวตัน และเครื่องคำนวณวงโคจร ซึ่งเป็นที่สนใจของชมรม Linux ของโรงเรียน

คุณคิดว่าการทำงานด้านซูเปอร์คอมพิวติ้งที่ OpenAI แตกต่างจากที่อื่นอย่างไร?

มันน่าตื่นเต้นเมื่อการเปลี่ยนแปลงเพียงบรรทัดเดียวสามารถช่วยประหยัดเวลาการคำนวณได้ถึงประมาณ 6 วันต่อสัปดาห์ในกลุ่มของเรา หรือเมื่อการค้นพบของเรานำไปสู่การแก้ไขที่ถูกนำไปใช้ใน upstream driver ใหม่

หนึ่งวันทั่วไปที่ OpenAI ของคุณเป็นอย่างไรบ้าง?

ปัญหาที่พบมักจะกลายเป็นการทำงานด้านโค้ด เช่น การเขียนเอกสารการออกแบบ การแก้ไขด่วนในสาขา PR หรือการเพิ่มตรรกะตรวจสอบสุขภาพเพื่อป้องกันไม่ให้ฮาร์ดแวร์ทำงานผิดพลาดในคลัสเตอร์

อะไรที่เติมพลังให้คุณในแต่ละวัน?

ที่ทำงานก่อนหน้าไม่จำเป็นต้องกังวลเกี่ยวกับโทโพโลยีทางกายภาพของฮาร์ดแวร์ เช่น การสื่อสารภายใน NUMA domain หรือการใช้ GPU ผ่าน GPUDirect ของ Nvidia ซึ่งเป็นความท้าทายที่แตกต่างจากปัจจุบัน

ศัพท์ที่ควรรู้

  • BASIC – ภาษาโปรแกรมพื้นฐานที่ใช้ในเครื่องคิดเลข Texas Instruments ในช่วงเริ่มต้น
  • GOTO statements – คำสั่งในการควบคุมการไหลของโปรแกรมที่ใช้ในภาษา BASIC
  • Supercomputing – การใช้คอมพิวเตอร์สมรรถนะสูงในการคำนวณที่ซับซ้อน
  • NUMA domain – โดเมนของสถาปัตยกรรมหน่วยความจำแบบ Non-Uniform Memory Access ที่เกี่ยวข้องกับการสื่อสารของฮาร์ดแวร์
  • GPUDirect – เทคโนโลยีของ Nvidia ที่ช่วยให้ GPU สามารถเข้าถึงอุปกรณ์อย่างรวดเร็ว

ที่มา: OpenAI

Leave a Comment