LLMOps

กลยุทธ์ Canary Deployment สำหรับ LLM: การกำหนด traffic split, rollout strategy, rollback policy, และการตรวจสอบสุขภาพโมเดลแบบเชิงพฤติกรรม

กลยุทธ์ Canary Deployment สำหรับ LLM: การกำหนด traffic split, rollout strategy, rollback policy, และการตรวจสอบสุขภาพโมเดลแบบเชิงพฤติกรรมในยุคที่ Large Language Models (LLM) กลายเป็นหัวใจสำคัญของแอปพลิเคชันสมัยใหม่ การอัปเดตโมเดลเวอร์ชันใหม่เข้าสู่ระบบ Production…

4 months ago

ทำ CI/CD สำหรับแอป LLM ในไทยด้วย Canary Deployment + Shadow Deployment + Evals: แนวทางครบวงจรจากการออกแบบสถาปัตยกรรมถึงการวัดผลเชิงประสิทธิภาพ

ทำ CI/CD สำหรับแอป LLM ในไทยด้วย Canary Deployment + Shadow Deployment + Evals: แนวทางครบวงจรจากการออกแบบสถาปัตยกรรมถึงการวัดผลเชิงประสิทธิภาพในยุคที่ Generative AI และ Large Language Models (LLM)…

4 months ago

ผสาน Apache Airflow กับ LLM เพื่อรันงานประมวลผลเอกสารแบบ Batch อย่างมีประสิทธิภาพในไทย

ผสาน Apache Airflow กับ LLM เพื่อรันงานประมวลผลเอกสารแบบ Batch อย่างมีประสิทธิภาพในไทย ในยุคที่ข้อมูลเอกสารมีปริมาณมหาศาล การประมวลผลข้อมูลที่ไม่มีโครงสร้าง (Unstructured Data) โดยเฉพาะภาษาไทย ถือเป็นความท้าทายสำคัญสำหรับองค์กรในประเทศไทย การนำเทคโนโลยีปัญญาประดิษฐ์มาช่วยจึงเป็นทางออกที่หลีกเลี่ยงไม่ได้ บทความนี้จะเจาะลึกถึงวิธีการอันทรงพลังในการ ผสาน Apache Airflow กับ…

7 months ago