tag: Transformers

ตรวจสอบโมเดล Transformers บน AWS Trainium ได้ง่ายๆ ผ่าน Space ใหม่

ตรวจสอบโมเดล Transformers บน AWS Trainium ได้ง่ายๆ ผ่าน Space ใหม่

· By: TanasakP
แนะนำเครื่องมือใหม่บน Hugging Face สำหรับตรวจสอบการรองรับโมเดล Transformers บน AWS Trainium พร้อมแจกสคริปต์และชุดข้อมูลผลการทดสอบแบบสาธารณะ
TorchNeuron: รันโมเดล Hugging Face บน AWS Trainium ง่ายกว่าเดิม

TorchNeuron: รันโมเดล Hugging Face บน AWS Trainium ง่ายกว่าเดิม

· By: TanasakP
TorchNeuron เปิดตัว backend ใหม่สำหรับ PyTorch ช่วยให้นักพัฒนาใช้งานโมเดล Transformers และ Diffusers บน AWS Trainium ได้แบบ native โดยไม่ต้องปรับแก้โค้ดซับซ้อน
เจาะลึก SmolLM3: โมเดลภาษาขนาดเล็กประสิทธิภาพสูง พร้อมวิธีสร้างระบบ Support Ticket อัจฉริยะ

เจาะลึก SmolLM3: โมเดลภาษาขนาดเล็กประสิทธิภาพสูง พร้อมวิธีสร้างระบบ Support Ticket อัจฉริยะ

SmolLM3 คือโมเดลขนาด 3B จาก Hugging Face ที่ออกแบบมาเพื่อทำงานเฉพาะทางแทนโมเดลใหญ่ 70B ด้วยต้นทุนที่ถูกกว่ามาก โดยรองรับการเรียกใช้เครื่องมือ การให้เหตุผล และการจัดการภาษาที่หลากหลาย
สร้างระบบสรุปวิดีโอแบบ Local ด้วย SmolVLM2-2.2B: ประมวลผลบนเครื่องส่วนตัวได้อย่างมีประสิทธิภาพ

สร้างระบบสรุปวิดีโอแบบ Local ด้วย SmolVLM2-2.2B: ประมวลผลบนเครื่องส่วนตัวได้อย่างมีประสิทธิภาพ

SmolVLM2-2.2B คือโมเดลที่ลงตัวทั้งด้านขนาดและความสามารถ โดยมีขนาดเล็กพอที่จะรันบน GPU ระดับผู้บริโภคทั่วไปเพียงตัวเดียว แต่ทรงพลังพอที่จะสรุปเนื้อหาวิดีโอและใช้งานในเวิร์กโฟลว์จริงได้อย่างดีเยี่ยม
ยกระดับ vLLM: เมื่อ Backend ของ Transformers เร็วแรงระดับ Native โดยไม่ต้องแก้โค้ด

ยกระดับ vLLM: เมื่อ Backend ของ Transformers เร็วแรงระดับ Native โดยไม่ต้องแก้โค้ด

· By: TanasakP
vLLM อัปเกรดแบ็กเอนด์ Transformers ให้มีประสิทธิภาพเทียบเท่าหรือสูงกว่าการเขียนโค้ดเฉพาะทาง ช่วยให้ผู้พัฒนาสามารถรันโมเดล LLM หลากหลายสถาปัตยกรรมได้ทันทีด้วยความเร็วสูงสุด