Cloud Logging

ผสานระบบตรวจสอบเหตุการณ์ (event forwarding) ไปยัง Cloud Logging และตั้งค่าฟิลด์สำคัญเพื่อการวิเคราะห์เหตุการณ์ LLM

ผสานระบบตรวจสอบเหตุการณ์ (event forwarding) ไปยัง Cloud Logging และตั้งค่าฟิลด์สำคัญเพื่อการวิเคราะห์เหตุการณ์ LLMในยุคที่ Generative AI และ Large Language Models (LLM) เข้ามามีบทบาทสำคัญในโครงสร้างพื้นฐานขององค์กร การตรวจสอบและติดตามการทำงานของระบบ (Observability) จึงไม่ใช่แค่เรื่องของ Performance…

5 months ago

ตั้ง API Gateway จำกัดโควตา LLM ต่อผู้ใช้และส่งต่อเหตุการณ์ไป Cloud Logging: แนวทางเชิงปฏิบัติสำหรับนักพัฒนาและผู้ดูแลระบบ

ตั้ง API Gateway จำกัดโควตา LLM ต่อผู้ใช้และส่งต่อเหตุการณ์ไป Cloud Logging: แนวทางเชิงปฏิบัติสำหรับนักพัฒนาและผู้ดูแลระบบในยุคที่ Generative AI และ Large Language Models (LLM) กลายเป็นหัวใจสำคัญของการพัฒนาแอปพลิเคชันสมัยใหม่ ความท้าทายที่นักพัฒนาและผู้ดูแลระบบต้องเผชิญคือการบริหารจัดการต้นทุนและการใช้งานทรัพยากร การปล่อยให้ผู้ใช้เข้าถึงโมเดลราคาแพงโดยไม่มีการควบคุมอาจนำไปสู่ค่าใช้จ่ายที่บานปลาย การใช้…

5 months ago