NVIDIA เปิดตัว TensorRT Model Connect รุ่น Public Preview เปลี่ยน Hugging Face เป็น C++ Inference ใน 2 คำสั่งtag: C++, Hugging Face, Inference, Nvidia, Open-Source, TensorRTAug 20, 2026 · By: NatapolKNVIDIA เปิดตัวโปรเจกต์ open-source TensorRT Model Connect (TRTMC) ช่วยแปลงโมเดลจาก Hugging Face สู่ระบบ Inference ด้วยภาษา C++ ได้โดยตรงโดยไม่ต้องผ่าน ONNX หรือใช้ PyTorch ในขณะรันไทม์
ยกระดับ vLLM: เมื่อ Backend ของ Transformers เร็วแรงระดับ Native โดยไม่ต้องแก้โค้ดtag: Hugging Face, Inference, LLM, PyTorch, Transformers, vLLMJul 17, 2026 · By: TanasakPvLLM อัปเกรดแบ็กเอนด์ Transformers ให้มีประสิทธิภาพเทียบเท่าหรือสูงกว่าการเขียนโค้ดเฉพาะทาง ช่วยให้ผู้พัฒนาสามารถรันโมเดล LLM หลากหลายสถาปัตยกรรมได้ทันทีด้วยความเร็วสูงสุด
