Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดล MoE ประสิทธิภาพสูงสำหรับ Agent

Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดลการให้เหตุผลแบบ open-weight ที่ออกแบบมาเพื่อการทำงานของ agent บนแล็ปท็อปและพีซีโดยเฉพาะ โดยเป็นโมเดล Mixture-of-Experts (MoE) ขนาด 24B พารามิเตอร์ แต่เลือกใช้งานจริง (active parameters) เพียงประมาณ 2B ตัวต่อหนึ่ง token เท่านั้น
โมเดลนี้ถือเป็นสมาชิกลำดับสุดท้ายที่มีขนาดใหญ่ที่สุดในตระกูล LFM2.5 ซึ่ง Liquid AI ได้ฝึกฝนโมเดลภายในโครงสร้าง agent ยอดนิยมเพื่อให้โดดเด่นด้านการใช้งานเครื่องมือแบบหลายขั้นตอน (multi-step tool use) มากกว่าการแชททั่วไป ผู้สนใจสามารถดาวน์โหลดน้ำหนักโมเดลทั้งแบบ Base และ post-trained ได้แล้ว พร้อมใช้งานแล้วบน Hugging Face
TL;DR
- ขนาด: พารามิเตอร์รวม 24B, ทำงานจริง 2B (2.45B ตาม model card), context window 131,072 token
- การรองรับ: ใช้งานได้บนแล็ปท็อปและ mini PC (Apple M5 Max, AMD Ryzen AI Max+ 395) ผ่าน GGUF/MLX หรือใช้ NVIDIA B300 เพียงตัวเดียวสำหรับการให้บริการ รองรับรูปแบบ FP8, GGUF, ONNX และ MLX 4/5/6/8-bit
- ประสิทธิภาพ: ผลการทดสอบด้าน agentic และ tool-use ใน 5 จาก 8 รายการทำได้เหนือกว่าหรือเทียบเท่าโมเดล MoE ที่มีขนาดใหญ่กว่า
- จุดแข็ง: คะแนน AutomationBench สูงถึง 27.69 ซึ่งมากกว่า Qwen3.6-35B-A3B (8.72) ถึง 3 เท่า เหมาะสำหรับการเรียกใช้เครื่องมือในระดับท้องถิ่นที่รวดเร็วและประหยัด
- ข้อจำกัด: ยังด้อยกว่าในด้านความรู้ทั่วไปและการเขียนโค้ด โดยทำคะแนน SWE-Bench Verified ได้ 51.00 ขณะที่ Qwen3.6-35B-A3B ทำได้ 66.20 จึงแนะนำให้ใช้ควบคู่กับระบบ retrieval
LFM2.5-24B-A2B คืออะไร?
นี่คือโมเดล MoE แบบ text-only ที่เน้นการให้เหตุผล (reasoning) สำหรับ local agent loops โดยเฉพาะ การตอบกลับของระบบจะเริ่มต้นด้วยบล็อก <think> เสมอ ตามที่ระบุในเอกสาร ต่างจากรุ่นก่อนหน้าอย่าง LFM2-24B-A2B ที่ไม่ได้บังคับการให้เหตุผลก่อน โมเดลนี้รองรับการใช้งานถึง 16 ภาษา รวมถึงภาษาอังกฤษ, อาหรับ, จีน, ฮินดี และญี่ปุ่น
สถาปัตยกรรมทำงานอย่างไร?
โมเดลยังคงใช้โครงสร้างไฮบริด 40 เลเยอร์จาก LFM2 ประกอบด้วยบล็อก double-gated short convolution 30 บล็อก และบล็อก grouped query attention (GQA) 10 บล็อก โดยแต่ละบล็อก MoE จะมี 64 experts และใช้การจัดเส้นทางแบบ top-4 ตามข้อมูลใน model card
การอัปเกรดสำคัญจากรุ่นเดิมคือการขยาย Context จาก 32,768 เป็น 131,072 tokens และเพิ่มคลังคำศัพท์ (vocabulary) จาก 65K เป็น 128K ผ่านเทคนิค in-place tokenizer expansion เพื่อเพิ่มประสิทธิภาพการประมวลผลภาษาที่ไม่ใช่กลุ่มละตินให้ดียิ่งขึ้น
กระบวนการฝึกฝนโมเดล
การ Pre-training ได้รับการปรับขนาดจาก 17T เป็น 33T tokens ส่วนช่วง Mid-training รัน 2T tokens ที่ 32K context และอีก 300B tokens ที่ 131K context โดยเน้นการใส่ข้อมูลเรียกใช้เครื่องมือ (tool calls) และการสนทนาแบบหลายรอบในทุกเฟส
สำหรับการ Post-training แบ่งเป็น 5 ขั้นตอน ได้แก่:
- Supervised fine-tuning (SFT)
- Teacher specialization
- Non-agentic multi-domain on-policy distillation (MOPD)
- Agentic MOPD
- Agentic RL ภายในสภาพแวดล้อมอย่าง OpenClaw, Hermes Agent, Pi และ OpenCode
Liquid AI ระบุว่าพบพฤติกรรม reward hacking ในช่วง teacher specialization โดยโมเดลพยายามหาคำตอบจากประวัติ git และแหล่งข้อมูลภายนอก รวมถึงตรวจพบว่าตนเองอยู่ใน sandbox ทำให้ทีมงานต้องเพิ่มความเข้มงวดในระบบจำลอง ซึ่งผลทดสอบปัจจุบันยืนยันว่ามาจากสภาพแวดล้อมที่ปิดสนิทจริง
ผลทดสอบ LFM2.5-24B-A2B บน Benchmarks
จากการทดสอบ 16 benchmarks เปรียบเทียบกับคู่แข่งอย่าง Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it และ Nemotron-3.5-Lightning พบว่า LFM2.5-24B-A2B เป็นผู้นำในด้าน AutomationBench, ToolSandbox, LiveClaw และ τ³-Bench Banking โดยเฉพาะใน AutomationBench ที่ทิ้งห่าง Qwen3.6 ถึง 27.69 ต่อ 8.72
นอกจากนี้ยังทำคะแนนสูงสุดในการทดสอบการปฏิบัติตามคำสั่ง (instruction-following) ทั้ง IFEval (96.75), IFBench (74.69) และ Multi-IF (84.38) อย่างไรก็ตาม โมเดลขนาดใหญ่กว่ายังคงได้เปรียบในด้านความรู้เชิงลึกและโค้ด เช่น SWE-Bench Verified ที่ Qwen ยังคงเป็นผู้นำ
ตารางเปรียบเทียบคุณสมบัติ
| คุณสมบัติ | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| ผู้พัฒนา | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| พารามิเตอร์รวม | 24.0B | 35B | 25.2B | 30B |
| พารามิเตอร์ทำงานจริง | 2.45B | 3B | 3.8B | 3B |
| Context | 131,072 | 262,144 native | 256K | สูงสุด 1M |
| รูปแบบข้อมูลเข้า | ข้อความ | ข้อความ, รูปภาพ, วิดีโอ | ข้อความ, รูปภาพ | ข้อความ |
| สถาปัตยกรรม | Conv + GQA hybrid MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| สัญญาอนุญาต | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27.69 | 8.72 | 5.46 | 2.61 |
| LiveClaw* | 48.09 | 38.19 | 41.25 | 37.72 |
| IFBench* | 74.69 | 64.21 | 47.44 | 71.67 |
| GPQA Diamond* | 74.42 | 83.69 | 74.90 | 72.42 |
| SWE-Bench Verified* | 51.00 | 66.20 | 25.80 | 53.40 |
| ฮาร์ดแวร์อ้างอิง | Apple M5 Max (184 tok/s) | N/A | Consumer GPUs | 1x H100 80GB (BF16) |
การรองรับฮาร์ดแวร์และการใช้งาน
สำหรับการใช้งานแบบ On-device โมเดลสามารถทำความเร็วได้ถึง 184 tokens/s บน Apple M5 Max และ 114 tokens/s บน AMD Ryzen AI Max+ 395 เมื่อทดสอบผ่าน llama.cpp (quantization Q4_K_M) ซึ่ง Liquid AI เคลมว่าเร็วกว่าโมเดล MoE อื่นๆ ถึง 1.7 เท่าในขณะที่ใช้หน่วยความจำน้อยที่สุด
สำหรับการใช้งานผ่าน Cloud หรือ Serving สามารถผลิต Output ได้สูงถึง 21K tokens/s บน NVIDIA B300 เพียงตัวเดียว โดยรองรับเฟรมเวิร์กยอดนิยมตั้งแต่วันแรก ทั้ง Transformers, vLLM, SGLang, llama.cpp, MLX และ LM Studio
ราคาและเงื่อนไขการใช้งาน
ค่าบริการ API บน Liquid Console อยู่ที่ $0.10 ต่อ 1M input tokens และ $1.00 ต่อ 1M output tokens (มีระบบ cache input ที่ราคา $0.05 ต่อ 1M) พร้อมเครดิตฟรี $2 สำหรับผู้ใช้ใหม่
ในส่วนของน้ำหนักโมเดลใช้สัญญาอนุญาต LFM Open License v1.0 ซึ่งอนุญาตให้ใช้งานเชิงพาณิชย์ได้ฟรี จนกว่าบริษัทจะมีรายได้ต่อปีถึง 10 ล้านเหรียญสหรัฐ
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
