LangSmith BYOC รองรับ AWS, Azure และ Google Cloud แล้ว

LangChain ทำหน้าที่เป็น control plane ซึ่งเก็บข้อมูลการอนุญาต สภาพองค์กร และเมตาดาต้าการเรียกเก็บเงิน ส่วน data plane ซึ่งเก็บข้อมูลที่ละเอียดอ่อนทั้งหมด เช่น traces, prompts, datasets, และ secrets ต่างๆ นั้นเป็นขององค์กรเอง

การมี BYOC ช่วยให้องค์กรสามารถควบคุมข้อมูลทั้งหมดไว้ในขอบเขตของตนเองได้ แต่การติดตั้งแบบเดิมต้องใช้ทีมวิศวกรเฉพาะทางในการดูแลรักษาเซิร์ฟเวอร์และฐานข้อมูล

บนแต่ละคลาวด์ ทีมรักษาความปลอดภัยสามารถผูก security groups ของตนเองเข้ากับบทบาทของแอปพลิเคชัน ทำให้ data plane สอดคล้องกับนโยบายการตรวจสอบ ingress และ egress ที่องค์กรใช้อยู่

หากต้องการย้ายจากระบบ self-hosted สามารถใช้เครื่องมือย้ายข้อมูลแบบ open source เพื่อให้ทรัพยากรใน workspace ย้ายไปด้วยโดยไม่กระทบกับระบบเดิม

LLM Gateway บน data plane สามารถเรียกใช้โมเดลจาก 11 providers รวมถึง endpoint ที่เข้ากันได้กับ OpenAI หรือ Anthropic ทำให้ผู้ใช้เลือกได้ทั้งโมเดลและผู้ให้บริการคลาวด์

เอกสารประกอบครอบคลุมสถาปัตยกรรม, โมเดลความรับผิดชอบร่วมกัน, การย้ายระบบ, และคำถามที่พบบ่อยต่างๆ

ศัพท์ที่ควรรู้

  • LangSmith BYOC – Bring Your Own Cloud คือการที่องค์กรนำโครงสร้างพื้นฐานคลาวด์ของตนเองมาใช้กับ LangSmith
  • Control Plane – ส่วนควบคุมที่เก็บการตั้งค่าต่างๆ เช่น การอนุญาตและการเรียกเก็บเงิน
  • Data Plane – ส่วนข้อมูลที่เก็บข้อมูลที่ละเอียดอ่อนทั้งหมด เช่น traces และ prompts
  • GA (General Availability) – สถานะที่ผลิตภัณฑ์พร้อมใช้งานอย่างเป็นทางการ
  • Beta – สถานะที่ผลิตภัณฑ์อยู่ในช่วงทดสอบก่อนเปิดตัวเต็มรูปแบบ

ที่มา: langchain.com

Leave a Comment