tag: LLM Optimization

Model Routing: เมื่อการเลือกโมเดล AI ไม่ได้ง่ายแค่การจัดหมวดหมู่ แต่คือโจทย์การบริหารระบบ

Model Routing: เมื่อการเลือกโมเดล AI ไม่ได้ง่ายแค่การจัดหมวดหมู่ แต่คือโจทย์การบริหารระบบ

· By: SirilukP
เทคนิค Model Routing สำหรับ AI Agent มีความซับซ้อนกว่าที่คิด เพราะต้องรับมือกับปัจจัยแฝงทั้งระบบ Caching ความยากของงานที่คาดเดาไม่ได้ และ Latency จากโครงสร้างพื้นฐานที่ส่งผลต่อต้นทุนและประสิทธิภาพจริง