Google ได้ประกาศฉบับที่สองของหนังสือ Site Reliability Engineering: How Google Runs Production Systems ซึ่งเป็นตำราสำคัญของบริษัท โดยปรับปรุงแนวคิด SRE ให้รองรับสถาปัตยกรรมคลาวด์สมัยใหม่ วิศวกรรมแพลตฟอร์ม และภาระงานด้าน AI ขณะที่ยังคงเน้นการประยุกต์ใช้เทคนิควิศวกรรมซอฟต์แวร์ที่ดีในการปฏิบัติการ
Betsy Beyer และ David Huska ได้นำเสนอฉบับใหม่นี้เพื่อตอบสนองต่อสภาพแวดล้อมการผลิตที่เปลี่ยนแปลงไปมากจากปี 2016 โดยเฉพาะอย่างยิ่งเมื่อภาระงาน AI ทั้งการฝึกและการอนุมาน (inference) สามารถรวมความต้องการบนทรัพยากรการประมวลผลที่หายาก ทำให้การวางแผนกำลัง การจัดการเครือข่าย และการควบคุมต้นทุนมีความสำคัญมากขึ้น
หนังสือครอบคลุมถึงความน่าเชื่อถือของคลัสเตอร์ GPU และ TPU ขนาดใหญ่ โทโพโลยีเครือข่าย เอาต์พุตของโมเดลที่ไม่เป็นเชิงกำหนด (non-deterministic) และไปป์ไลน์ที่ใช้ในการฝึก การปรับแต่ง และการประมวลผลข้อมูล นอกจากนี้ยังกล่าวถึงการสนับสนุนจาก Generative AI สำหรับการคัดกรองเหตุการณ์และการเขียนรายงานหลังเกิดเหตุการณ์ (postmortem) รวมถึงการใช้แบบจำลองเชิงคาดการณ์เพื่อระบุคอขวดของทรัพยากรก่อนเกิดการหยุดให้บริการ
กิจกรรมล่าสุดในอุตสาหกรรม เช่น Datadog Scout, Honeycomb Canvas Agent, Splunk AI SRE และ New Relic SRE Agent ต่างก็กำลังสำรวจแนวทางเดียวกันนี้ ขณะที่ Google เองก็เคยใช้ SREs บน Google Cloud ร่วมกับ Gemini CLI ในช่วงเกิดเหตุการณ์จริง
ศัพท์ที่ควรรู้
- SRE (Site Reliability Engineering) – เป็นสาขาที่ใช้หลักการวิศวกรรมซอฟต์แวร์ในการจัดการและทำให้ระบบปฏิบัติการมีความน่าเชื่อถือสูง
- Accelerated computing resources – คือทรัพยากรการประมวลผลเฉพาะทาง เช่น GPU หรือ TPU ที่ใช้ในการเร่งการคำนวณสำหรับงานหนัก เช่น AI
- Inference workloads – คือภาระงานที่เกิดขึ้นเมื่อโมเดล AI ที่ผ่านการฝึกแล้วถูกนำไปใช้งานจริงเพื่อสร้างผลลัพธ์
- Non-deterministic model outputs – คือผลลัพธ์ที่ได้จากโมเดล AI ที่อาจไม่เหมือนกันทุกครั้งที่รันด้วยปัจจัยเดียวกัน
ที่มา: infoq.com