Amazon SageMaker AI ประกาศรองรับการกำหนดความยาวลำดับที่ใช้ในงานปรับแต่งโมเดลแบบ Serverless ซึ่งรองรับการปรับแต่งสำหรับโมเดล Open-weight ยอดนิยม เช่น gpt-oss, Gemma, Llama, Nemotron และ Qwen
ก่อนหน้านี้ การทำ Fine-tuning แต่ละครั้งจะใช้ความยาวลำดับคงที่ซึ่งผู้ใช้ไม่สามารถแก้ไขได้ แต่ตอนนี้สามารถตั้งค่าพารามิเตอร์ความยาวลำดับเป็นส่วนหนึ่งของ hyperparameters ในงานปรับแต่งได้แล้ว
ผู้ใช้สามารถตั้งค่า hyperparameter เช่น dataset_max_len สำหรับงาน SFT และ DPO หรือ max_prompt_length และ max_response_length สำหรับงาน RFT เพื่อให้ตรงกับลักษณะข้อมูล ไม่ว่าจะเป็นคู่คำถาม-คำตอบสั้นๆ หรือเอกสารหลายหน้า
ความยาวสูงสุดที่เผยแพร่อยู่ที่ 16K tokens สำหรับหลายโมเดล ขึ้นอยู่กับโมเดลและเทคนิคที่เลือก บริการนี้พร้อมใช้งานในภูมิภาคต่างๆ รวมถึง US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) และ Europe (Ireland)
เริ่มต้นใช้งานได้จากหน้า Models ใน Amazon SageMaker Studio หรือใช้ SageMaker Python SDK และ Agent skills ของเรา
ศัพท์ที่ควรรู้
- Amazon SageMaker AI – บริการของ Amazon ที่ช่วยให้ผู้ใช้สามารถปรับแต่งโมเดล AI ของตนเองได้
- Sequence Length – คือความยาวของข้อมูลที่ป้อนเข้าหรือที่โมเดลประมวลผลในแต่ละครั้ง
- Serverless model customization – คือกระบวนการปรับแต่งโมเดล AI โดยไม่ต้องกังวลเรื่องการจัดการเซิร์ฟเวอร์
- Fine-tuning – คือการนำโมเดลที่ฝึกมาแล้วมาฝึกต่อด้วยข้อมูลเฉพาะเพื่อให้ทำงานได้ดีขึ้น
ที่มา: AWS