tag: Kinference

Buoyant เปิดตัว Kinference ระบบ Inference Control Plane แบบ Apache 2.0 สำหรับ vLLM บน Kubernetes ชูจุดเด่นลดค่า TTFT ได้สูงสุดถึง 95% พร้อมระบบจัดการแบบหลายผู้เช่า