Amazon SageMaker AI serverless model customization รองรับ Training Session APIs แล้ว ทำให้ลูกค้าสามารถควบคุมอัลกอริทึมหลังการฝึกได้อย่างเต็มที่โดยไม่ต้องจัดเตรียมหรือจัดการโครงสร้างพื้นฐาน GPU
เทคนิคที่จัดการ เช่น SFT, DPO และวิธีการเรียนรู้แบบเสริมแรงอื่นๆ ช่วยให้ลูกค้าเลือกเทคนิคและโมเดล และให้ SageMaker AI ทำการฝึกให้
ด้วย Training Session APIs ทีมสามารถเขียนลูปการฝึกของตนเองได้ ไม่ว่าจะเป็นการทำ SFT หรือ DPO ในแบบของตนเอง หรือการนำเสนอ custom loss, สัญญาณรางวัล RL ใหม่ หรืออัลกอริทึมจากงานวิจัยล่าสุด
การดำเนินการต่างๆ เช่น forward_backward(), optim_step(), และ sample() จะกลายเป็น API call ต่อเซสชันที่มีสถานะ ทำให้ลูกค้าสามารถประกอบขั้นตอนการฝึกที่เทคนิคของตนต้องการได้ ขณะที่ SageMaker AI จัดการเรื่อง GPU allocation, การโหลดโมเดล, การดำเนินการแบบกระจาย, การกู้คืนจากข้อผิดพลาด, การจัดเก็บ checkpoint และความปลอดภัย
ปัจจุบัน Training Session APIs พร้อมใช้งานในภูมิภาค US East (N. Virginia), US West (Oregon) และ Asia Pacific (Mumbai) โดยลูกค้าสามารถติดตั้ง SageMaker Python SDK หรือเปิดใช้งานใน SageMaker Studio เพื่อเริ่มต้นใช้งานได้
ศัพท์ที่ควรรู้
- SageMaker AI – บริการของ Amazon ที่ช่วยให้ผู้ใช้สามารถฝึกและปรับแต่งโมเดล Machine Learning ได้
- Serverless model customization – การปรับแต่งโมเดลโดยไม่ต้องกังวลเรื่องการจัดการโครงสร้างพื้นฐานด้านคอมพิวเตอร์
- Training Session APIs – ชุดของ Application Programming Interface ที่อนุญาตให้ควบคุมกระบวนการฝึกโมเดลผ่านการเรียกใช้โปรแกรม
- SFT, DPO – เทคนิคการปรับแต่งโมเดลที่ใช้ในการฝึกให้โมเดลมีความเชี่ยวชาญในงานเฉพาะทาง
ที่มา: AWS