Meta AI เปิดตัว Muse Glimmer โมเดล Agentic ขนาด 30B รันบน GPU ผู้บริโภคตัวเดียวได้สำเร็จ

Meta ได้เปิดตัว Muse Glimmer ซึ่งเป็นโมเดล multimodal ขนาด 3 หมื่นล้านพารามิเตอร์ที่กลั่นกรอง (distilled) มาจาก Muse Spark โดยถูกปรับแต่งมาสำหรับเวิร์กโฟลว์ local agent ที่ทำงานตลอดเวลา และเผยแพร่ภายใต้ Apache 2.0 ปกติแล้วโมเดลขนาด 30B จะต้องใช้หน่วยความจำมากกว่า 55 GB ที่ความละเอียดเต็ม (full precision) แต่ Meta ได้บีบอัดให้เหลือประมาณ 4-bit จากนั้นจึงเพิ่ม block-level speculative decoding เพื่อให้ตอบสนองได้เร็วพอที่จะอยู่ในวงจร agent จริง ผลลัพธ์ที่ได้คือสามารถรันบน GPU ระดับผู้บริโภคเพียงตัวเดียวหรือบน Mac โดยไม่ต้องเรียกใช้งานผ่านเครือข่าย
สามารถนำไปใช้งานจริงได้หรือไม่?
ใช่ น้ำหนักของโมเดล (weights) เป็นแบบเปิดภายใต้ Apache 2.0 โดยใน Hugging Face collection มีทั้ง BF16 weights, GGUF k-quants, ExecuTorch builds และ DFlash drafter การทำ Self-hosting คือแนวทางที่ทำได้ตั้งแต่วันแรก
กลุ่มนักพัฒนาอิสระและสตาร์ทอัพสามารถรันบน GPU ขนาด 24 GB เพียงตัวเดียว หรือบน Mac M4/M5 Max ได้ทันที ส่วนทีมระดับตลาดกลางจะได้รับประโยชน์จากการประมวลผล (inference) แบบ on-prem โดยไม่มีค่าใช้จ่ายตามจำนวน token สำหรับองค์กรที่ต้องการความปลอดภัยสูง จะได้ agent ที่ทำงานแบบ air-gappable หรือตัดขาดจากเครือข่ายภายนอกได้โดยสมบูรณ์ ทั้งนี้ Meta แนะนำให้เพิ่มระบบความปลอดภัย (guardrails) ในระดับระบบ แทนที่จะปล่อยโมเดลเป็น endpoint เปล่าๆ
กลุ่มอุตสาหกรรมเป้าหมายครอบคลุมทั้งด้านสุขภาพ, กฎหมาย, บริการทางการเงิน, กลาโหมและภาครัฐ, การผลิต และงานบริการภาคสนาม ซึ่งเป็นสภาพแวดล้อมที่มีข้อจำกัดด้านการจัดเก็บข้อมูล (data residency) การทำงานแบบออฟไลน์ หรือความหน่วง (latency) จนไม่สามารถเรียกใช้ระบบคลาวด์ได้ แอปพลิเคชันที่รองรับมีตั้งแต่ Desktop agents ที่อ่านภาพหน้าจอ, coding agents, การเรียกใช้ฟังก์ชันตาม schema ไปจนถึงการประเมินแบบ LLM-as-a-judge
โมเดลและการฝึกฝน
Muse Glimmer เป็น dense causal transformer ที่มี perception encoder เฉพาะ พารามิเตอร์ทั้งหมดอยู่ที่ประมาณ 30B รวมถึง vision tower ด้วย Grouped-query attention ใช้ 32 query heads และ 2 KV heads ส่วน Attention จะทำซ้ำในรูปแบบ [Local, Local, Local, Global] พร้อม sliding window ขนาด 2,048 โดยใช้ RoPE กับเลเยอร์แบบ local เท่านั้นด้วยค่า theta 500,000
ทางด้านการมองเห็นใช้ ViT-G/14 perception encoder ขนาดประมาณ 1.8B ที่รับ visual tokens ได้สูงสุด 4,096 ต่อภาพ ความยาวบริบท (context length) อยู่ที่ 131,072+ คำศัพท์มี 202,048 tokens และข้อมูลความรู้สิ้นสุดที่ 4 มกราคม 2026 รองรับอินพุตทั้งข้อความและภาพ แต่ไม่รองรับเสียง ส่วนวิดีโอจะถูกประมวลผลเป็นเฟรมเดี่ยวๆ
การฝึกฝนแบ่งออกเป็นสามเฟสหลัก ได้แก่ Pre-training ที่ใช้ logit distillation จากเอาต์พุตของ Muse Spark, Mid-training ที่เพิ่มข้อมูลบริบทยาวและเน้นงานด้าน agent พร้อมร่องรอยการให้เหตุผลที่สมบูรณ์ขึ้น และ Post-training ที่ผสมผสาน supervised fine-tuning เข้ากับ on-policy distillation และ reinforcement learning ในหลากหลายโดเมน
การบรรจุ 30B ลงในฮาร์ดแวร์ระดับผู้บริโภ เพื่อให้โมเดล 30B ที่ต้องการหน่วยความจำกว่า 55 GB รันบนฮาร์ดแวร์ทั่วไปได้ Meta จึงบีบอัด weights เหลือประมาณ 4-bit ทำให้ส่วนของภาษาใช้พื้นที่ไม่ถึง 20 GB เหลือพื้นที่ว่าง (headroom) ภายในกรอบ 24 GB หรือ 32 GB สำหรับ KV cache และ perception encoder โดยมีการปล่อย quantized builds สองรุ่นคือ K-Quant-Dynamic ที่เน้น VRAM 32 GB และ K-Quant-17GB ที่เน้น VRAM 24 GB ซึ่งมีประสิทธิภาพลดลงเพียง 1.0% เท่านั้น
ความเร็วในการประมวลผลมาจาก DFlash ซึ่งเป็น block-diffusion drafter ที่ทำนาย 16 tokens ในการผ่านครั้งเดียว (forward pass) ช่วยให้การถอดรหัสเร็วขึ้นอย่างมาก จากการวัดผลบน RTX 5090 พบว่าอัตราการประมวลผลเพิ่มขึ้นจาก 74.9 เป็น 233.4 tok/s หรือเร็วขึ้น 3.1 เท่า ส่วนบน Apple M5 Max ความเร็วขยับขึ้นจาก 26.6 เป็น 50.2 tok/s
Benchmarks
ในการเปรียบเทียบกับ Gemma4-31B และ Qwen3.6-27B พบว่า Muse Glimmer เป็นผู้นำในหลายด้าน เช่น MCP Atlas ที่ทำได้ 75.5 คะแนน, DeepSearch QA ที่ 74.6 และ SWE-Bench Pro ที่ 51.2 คะแนน ส่วนด้านการให้เหตุผล AIME 2026 ทำได้ถึง 94.7 อย่างไรก็ตาม Qwen3.6-27B ยังคงนำหน้าในด้าน OSWorld-Verified และ TerminalBench 2.1 ซึ่งสะท้อนว่า Muse Glimmer โดดเด่นด้านการจัดการ agent (agentic orchestration) แต่ยังตามหลังในงานควบคุม terminal
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
