tag: Metal

PyTorch 2.15 อัปเกรด MPS ครั้งใหญ่ เร่งสปีด LLM บน Mac

PyTorch 2.15 อัปเกรด MPS ครั้งใหญ่ เร่งสปีด LLM บน Mac

· By: TanasakP
PyTorch 2.15 ปรับปรุงประสิทธิภาพบน Mac ครั้งสำคัญด้วยการรองรับ FP8 เร่งการ decode โมเดลภาษาเร็วขึ้นสูงสุด 6.5 เท่า และลดการใช้หน่วยความจำในการสร้างวิดีโอลงมหาศาล
Perplexity เปิดโอเพนซอร์ส Lily: Inference Engine ประสิทธิภาพสูงด้วย Rust + Metal สำหรับชิป Apple Silicon

Perplexity เปิดโอเพนซอร์ส Lily: Inference Engine ประสิทธิภาพสูงด้วย Rust + Metal สำหรับชิป Apple Silicon

· By: AttapolK
Perplexity เปิดตัว Lily ซึ่งเป็น Local Inference Engine ที่พัฒนาด้วย Rust และ Metal kernels แบบปรับแต่งพิเศษ ช่วยเพิ่มความเร็วการประมวลผลโมเดล Qwen3.6-35B-A3B บนชิป M5 Max ได้มากกว่า MLX-LM ถึง 1.35 เท่า