Meta AI เปิดตัว Muse Glimmer โมเดล Agentic ขนาด 30B รันบน GPU ผู้บริโภคตัวเดียวได้สำเร็จ

Meta AI เปิดตัว Muse Glimmer โมเดล Agentic ขนาด 30B รันบน GPU ผู้บริโภคตัวเดียวได้สำเร็จ

Meta ได้เปิดตัว Muse Glimmer ซึ่งเป็นโมเดล multimodal ขนาด 3 หมื่นล้านพารามิเตอร์ที่กลั่นกรอง (distilled) มาจาก Muse Spark โดยถูกปรับแต่งมาสำหรับเวิร์กโฟลว์ local agent ที่ทำงานตลอดเวลา และเผยแพร่ภายใต้ Apache 2.0 ปกติแล้วโมเดลขนาด 30B จะต้องใช้หน่วยความจำมากกว่า 55 GB ที่ความละเอียดเต็ม (full precision) แต่ Meta ได้บีบอัดให้เหลือประมาณ 4-bit จากนั้นจึงเพิ่ม block-level speculative decoding เพื่อให้ตอบสนองได้เร็วพอที่จะอยู่ในวงจร agent จริง ผลลัพธ์ที่ได้คือสามารถรันบน GPU ระดับผู้บริโภคเพียงตัวเดียวหรือบน Mac โดยไม่ต้องเรียกใช้งานผ่านเครือข่าย

สามารถนำไปใช้งานจริงได้หรือไม่?

ใช่ น้ำหนักของโมเดล (weights) เป็นแบบเปิดภายใต้ Apache 2.0 โดยใน Hugging Face collection มีทั้ง BF16 weights, GGUF k-quants, ExecuTorch builds และ DFlash drafter การทำ Self-hosting คือแนวทางที่ทำได้ตั้งแต่วันแรก

กลุ่มนักพัฒนาอิสระและสตาร์ทอัพสามารถรันบน GPU ขนาด 24 GB เพียงตัวเดียว หรือบน Mac M4/M5 Max ได้ทันที ส่วนทีมระดับตลาดกลางจะได้รับประโยชน์จากการประมวลผล (inference) แบบ on-prem โดยไม่มีค่าใช้จ่ายตามจำนวน token สำหรับองค์กรที่ต้องการความปลอดภัยสูง จะได้ agent ที่ทำงานแบบ air-gappable หรือตัดขาดจากเครือข่ายภายนอกได้โดยสมบูรณ์ ทั้งนี้ Meta แนะนำให้เพิ่มระบบความปลอดภัย (guardrails) ในระดับระบบ แทนที่จะปล่อยโมเดลเป็น endpoint เปล่าๆ

กลุ่มอุตสาหกรรมเป้าหมายครอบคลุมทั้งด้านสุขภาพ, กฎหมาย, บริการทางการเงิน, กลาโหมและภาครัฐ, การผลิต และงานบริการภาคสนาม ซึ่งเป็นสภาพแวดล้อมที่มีข้อจำกัดด้านการจัดเก็บข้อมูล (data residency) การทำงานแบบออฟไลน์ หรือความหน่วง (latency) จนไม่สามารถเรียกใช้ระบบคลาวด์ได้ แอปพลิเคชันที่รองรับมีตั้งแต่ Desktop agents ที่อ่านภาพหน้าจอ, coding agents, การเรียกใช้ฟังก์ชันตาม schema ไปจนถึงการประเมินแบบ LLM-as-a-judge

โมเดลและการฝึกฝน

Muse Glimmer เป็น dense causal transformer ที่มี perception encoder เฉพาะ พารามิเตอร์ทั้งหมดอยู่ที่ประมาณ 30B รวมถึง vision tower ด้วย Grouped-query attention ใช้ 32 query heads และ 2 KV heads ส่วน Attention จะทำซ้ำในรูปแบบ [Local, Local, Local, Global] พร้อม sliding window ขนาด 2,048 โดยใช้ RoPE กับเลเยอร์แบบ local เท่านั้นด้วยค่า theta 500,000

ทางด้านการมองเห็นใช้ ViT-G/14 perception encoder ขนาดประมาณ 1.8B ที่รับ visual tokens ได้สูงสุด 4,096 ต่อภาพ ความยาวบริบท (context length) อยู่ที่ 131,072+ คำศัพท์มี 202,048 tokens และข้อมูลความรู้สิ้นสุดที่ 4 มกราคม 2026 รองรับอินพุตทั้งข้อความและภาพ แต่ไม่รองรับเสียง ส่วนวิดีโอจะถูกประมวลผลเป็นเฟรมเดี่ยวๆ

การฝึกฝนแบ่งออกเป็นสามเฟสหลัก ได้แก่ Pre-training ที่ใช้ logit distillation จากเอาต์พุตของ Muse Spark, Mid-training ที่เพิ่มข้อมูลบริบทยาวและเน้นงานด้าน agent พร้อมร่องรอยการให้เหตุผลที่สมบูรณ์ขึ้น และ Post-training ที่ผสมผสาน supervised fine-tuning เข้ากับ on-policy distillation และ reinforcement learning ในหลากหลายโดเมน

การบรรจุ 30B ลงในฮาร์ดแวร์ระดับผู้บริโภ เพื่อให้โมเดล 30B ที่ต้องการหน่วยความจำกว่า 55 GB รันบนฮาร์ดแวร์ทั่วไปได้ Meta จึงบีบอัด weights เหลือประมาณ 4-bit ทำให้ส่วนของภาษาใช้พื้นที่ไม่ถึง 20 GB เหลือพื้นที่ว่าง (headroom) ภายในกรอบ 24 GB หรือ 32 GB สำหรับ KV cache และ perception encoder โดยมีการปล่อย quantized builds สองรุ่นคือ K-Quant-Dynamic ที่เน้น VRAM 32 GB และ K-Quant-17GB ที่เน้น VRAM 24 GB ซึ่งมีประสิทธิภาพลดลงเพียง 1.0% เท่านั้น

ความเร็วในการประมวลผลมาจาก DFlash ซึ่งเป็น block-diffusion drafter ที่ทำนาย 16 tokens ในการผ่านครั้งเดียว (forward pass) ช่วยให้การถอดรหัสเร็วขึ้นอย่างมาก จากการวัดผลบน RTX 5090 พบว่าอัตราการประมวลผลเพิ่มขึ้นจาก 74.9 เป็น 233.4 tok/s หรือเร็วขึ้น 3.1 เท่า ส่วนบน Apple M5 Max ความเร็วขยับขึ้นจาก 26.6 เป็น 50.2 tok/s

Benchmarks

ในการเปรียบเทียบกับ Gemma4-31B และ Qwen3.6-27B พบว่า Muse Glimmer เป็นผู้นำในหลายด้าน เช่น MCP Atlas ที่ทำได้ 75.5 คะแนน, DeepSearch QA ที่ 74.6 และ SWE-Bench Pro ที่ 51.2 คะแนน ส่วนด้านการให้เหตุผล AIME 2026 ทำได้ถึง 94.7 อย่างไรก็ตาม Qwen3.6-27B ยังคงนำหน้าในด้าน OSWorld-Verified และ TerminalBench 2.1 ซึ่งสะท้อนว่า Muse Glimmer โดดเด่นด้านการจัดการ agent (agentic orchestration) แต่ยังตามหลังในงานควบคุม terminal

Source: MarkTechPost
ดูแลงานแปลและเรียบเรียงโดย SirilukP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร