tag: Throughput

เจาะลึก 9 ตัวชี้วัดสำคัญของ LLM Inference ใน 5 นาที

เจาะลึก 9 ตัวชี้วัดสำคัญของ LLM Inference ใน 5 นาที

· By: SirilukP
คู่มือสรุปวิธีวัดประสิทธิภาพการประมวลผลโมเดลภาษาขนาดใหญ่ (LLM) ผ่านตัวชี้วัดหลัก เช่น latency ความเร็วการสร้าง token และภาระงานของระบบอย่างครบถ้วน