tag: Transformers

เจาะลึก SmolLM3: โมเดลภาษาขนาดเล็กประสิทธิภาพสูง พร้อมวิธีสร้างระบบ Support Ticket อัจฉริยะ

เจาะลึก SmolLM3: โมเดลภาษาขนาดเล็กประสิทธิภาพสูง พร้อมวิธีสร้างระบบ Support Ticket อัจฉริยะ

SmolLM3 คือโมเดลขนาด 3B จาก Hugging Face ที่ออกแบบมาเพื่อทำงานเฉพาะทางแทนโมเดลใหญ่ 70B ด้วยต้นทุนที่ถูกกว่ามาก โดยรองรับการเรียกใช้เครื่องมือ การให้เหตุผล และการจัดการภาษาที่หลากหลาย
สร้างระบบสรุปวิดีโอแบบ Local ด้วย SmolVLM2-2.2B: ประมวลผลบนเครื่องส่วนตัวได้อย่างมีประสิทธิภาพ

สร้างระบบสรุปวิดีโอแบบ Local ด้วย SmolVLM2-2.2B: ประมวลผลบนเครื่องส่วนตัวได้อย่างมีประสิทธิภาพ

SmolVLM2-2.2B คือโมเดลที่ลงตัวทั้งด้านขนาดและความสามารถ โดยมีขนาดเล็กพอที่จะรันบน GPU ระดับผู้บริโภคทั่วไปเพียงตัวเดียว แต่ทรงพลังพอที่จะสรุปเนื้อหาวิดีโอและใช้งานในเวิร์กโฟลว์จริงได้อย่างดีเยี่ยม
ยกระดับ vLLM: เมื่อ Backend ของ Transformers เร็วแรงระดับ Native โดยไม่ต้องแก้โค้ด

ยกระดับ vLLM: เมื่อ Backend ของ Transformers เร็วแรงระดับ Native โดยไม่ต้องแก้โค้ด

· By: TanasakP
vLLM อัปเกรดแบ็กเอนด์ Transformers ให้มีประสิทธิภาพเทียบเท่าหรือสูงกว่าการเขียนโค้ดเฉพาะทาง ช่วยให้ผู้พัฒนาสามารถรันโมเดล LLM หลากหลายสถาปัตยกรรมได้ทันทีด้วยความเร็วสูงสุด