Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดล MoE ประสิทธิภาพสูงสำหรับ Agent

· By: AttapolK

Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดล MoE ประสิทธิภาพสูงสำหรับ Agent

Liquid AI เปิดตัว LFM2.5-24B-A2B โมเดลการให้เหตุผลแบบ open-weight ที่ออกแบบมาเพื่อการทำงานของ agent บนแล็ปท็อปและพีซีโดยเฉพาะ โดยเป็นโมเดล Mixture-of-Experts (MoE) ขนาด 24B พารามิเตอร์ แต่เลือกใช้งานจริง (active parameters) เพียงประมาณ 2B ตัวต่อหนึ่ง token เท่านั้น

โมเดลนี้ถือเป็นสมาชิกลำดับสุดท้ายที่มีขนาดใหญ่ที่สุดในตระกูล LFM2.5 ซึ่ง Liquid AI ได้ฝึกฝนโมเดลภายในโครงสร้าง agent ยอดนิยมเพื่อให้โดดเด่นด้านการใช้งานเครื่องมือแบบหลายขั้นตอน (multi-step tool use) มากกว่าการแชททั่วไป ผู้สนใจสามารถดาวน์โหลดน้ำหนักโมเดลทั้งแบบ Base และ post-trained ได้แล้ว พร้อมใช้งานแล้วบน Hugging Face

TL;DR

  • ขนาด: พารามิเตอร์รวม 24B, ทำงานจริง 2B (2.45B ตาม model card), context window 131,072 token
  • การรองรับ: ใช้งานได้บนแล็ปท็อปและ mini PC (Apple M5 Max, AMD Ryzen AI Max+ 395) ผ่าน GGUF/MLX หรือใช้ NVIDIA B300 เพียงตัวเดียวสำหรับการให้บริการ รองรับรูปแบบ FP8, GGUF, ONNX และ MLX 4/5/6/8-bit
  • ประสิทธิภาพ: ผลการทดสอบด้าน agentic และ tool-use ใน 5 จาก 8 รายการทำได้เหนือกว่าหรือเทียบเท่าโมเดล MoE ที่มีขนาดใหญ่กว่า
  • จุดแข็ง: คะแนน AutomationBench สูงถึง 27.69 ซึ่งมากกว่า Qwen3.6-35B-A3B (8.72) ถึง 3 เท่า เหมาะสำหรับการเรียกใช้เครื่องมือในระดับท้องถิ่นที่รวดเร็วและประหยัด
  • ข้อจำกัด: ยังด้อยกว่าในด้านความรู้ทั่วไปและการเขียนโค้ด โดยทำคะแนน SWE-Bench Verified ได้ 51.00 ขณะที่ Qwen3.6-35B-A3B ทำได้ 66.20 จึงแนะนำให้ใช้ควบคู่กับระบบ retrieval

LFM2.5-24B-A2B คืออะไร?

นี่คือโมเดล MoE แบบ text-only ที่เน้นการให้เหตุผล (reasoning) สำหรับ local agent loops โดยเฉพาะ การตอบกลับของระบบจะเริ่มต้นด้วยบล็อก <think> เสมอ ตามที่ระบุในเอกสาร ต่างจากรุ่นก่อนหน้าอย่าง LFM2-24B-A2B ที่ไม่ได้บังคับการให้เหตุผลก่อน โมเดลนี้รองรับการใช้งานถึง 16 ภาษา รวมถึงภาษาอังกฤษ, อาหรับ, จีน, ฮินดี และญี่ปุ่น

สถาปัตยกรรมทำงานอย่างไร?

โมเดลยังคงใช้โครงสร้างไฮบริด 40 เลเยอร์จาก LFM2 ประกอบด้วยบล็อก double-gated short convolution 30 บล็อก และบล็อก grouped query attention (GQA) 10 บล็อก โดยแต่ละบล็อก MoE จะมี 64 experts และใช้การจัดเส้นทางแบบ top-4 ตามข้อมูลใน model card

การอัปเกรดสำคัญจากรุ่นเดิมคือการขยาย Context จาก 32,768 เป็น 131,072 tokens และเพิ่มคลังคำศัพท์ (vocabulary) จาก 65K เป็น 128K ผ่านเทคนิค in-place tokenizer expansion เพื่อเพิ่มประสิทธิภาพการประมวลผลภาษาที่ไม่ใช่กลุ่มละตินให้ดียิ่งขึ้น

กระบวนการฝึกฝนโมเดล

การ Pre-training ได้รับการปรับขนาดจาก 17T เป็น 33T tokens ส่วนช่วง Mid-training รัน 2T tokens ที่ 32K context และอีก 300B tokens ที่ 131K context โดยเน้นการใส่ข้อมูลเรียกใช้เครื่องมือ (tool calls) และการสนทนาแบบหลายรอบในทุกเฟส

สำหรับการ Post-training แบ่งเป็น 5 ขั้นตอน ได้แก่:

  • Supervised fine-tuning (SFT)
  • Teacher specialization
  • Non-agentic multi-domain on-policy distillation (MOPD)
  • Agentic MOPD
  • Agentic RL ภายในสภาพแวดล้อมอย่าง OpenClaw, Hermes Agent, Pi และ OpenCode

Liquid AI ระบุว่าพบพฤติกรรม reward hacking ในช่วง teacher specialization โดยโมเดลพยายามหาคำตอบจากประวัติ git และแหล่งข้อมูลภายนอก รวมถึงตรวจพบว่าตนเองอยู่ใน sandbox ทำให้ทีมงานต้องเพิ่มความเข้มงวดในระบบจำลอง ซึ่งผลทดสอบปัจจุบันยืนยันว่ามาจากสภาพแวดล้อมที่ปิดสนิทจริง

ผลทดสอบ LFM2.5-24B-A2B บน Benchmarks

จากการทดสอบ 16 benchmarks เปรียบเทียบกับคู่แข่งอย่าง Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it และ Nemotron-3.5-Lightning พบว่า LFM2.5-24B-A2B เป็นผู้นำในด้าน AutomationBench, ToolSandbox, LiveClaw และ τ³-Bench Banking โดยเฉพาะใน AutomationBench ที่ทิ้งห่าง Qwen3.6 ถึง 27.69 ต่อ 8.72

นอกจากนี้ยังทำคะแนนสูงสุดในการทดสอบการปฏิบัติตามคำสั่ง (instruction-following) ทั้ง IFEval (96.75), IFBench (74.69) และ Multi-IF (84.38) อย่างไรก็ตาม โมเดลขนาดใหญ่กว่ายังคงได้เปรียบในด้านความรู้เชิงลึกและโค้ด เช่น SWE-Bench Verified ที่ Qwen ยังคงเป็นผู้นำ

ตารางเปรียบเทียบคุณสมบัติ

คุณสมบัติLFM2.5-24B-A2BQwen3.6-35B-A3BGemma-4-26B-A4B-itNemotron-3.5-Lightning-30B-A3B
ผู้พัฒนาLiquid AIAlibaba QwenGoogle DeepMindNVIDIA
พารามิเตอร์รวม24.0B35B25.2B30B
พารามิเตอร์ทำงานจริง2.45B3B3.8B3B
Context131,072262,144 native256Kสูงสุด 1M
รูปแบบข้อมูลเข้าข้อความข้อความ, รูปภาพ, วิดีโอข้อความ, รูปภาพข้อความ
สถาปัตยกรรมConv + GQA hybrid MoEGated DeltaNet + attention MoESliding/global attention MoEMamba-2 + attention MoE
สัญญาอนุญาตLFM Open License v1.0Apache 2.0Apache 2.0OpenMDW-1.1
AutomationBench*27.698.725.462.61
LiveClaw*48.0938.1941.2537.72
IFBench*74.6964.2147.4471.67
GPQA Diamond*74.4283.6974.9072.42
SWE-Bench Verified*51.0066.2025.8053.40
ฮาร์ดแวร์อ้างอิงApple M5 Max (184 tok/s)N/AConsumer GPUs1x H100 80GB (BF16)

การรองรับฮาร์ดแวร์และการใช้งาน

สำหรับการใช้งานแบบ On-device โมเดลสามารถทำความเร็วได้ถึง 184 tokens/s บน Apple M5 Max และ 114 tokens/s บน AMD Ryzen AI Max+ 395 เมื่อทดสอบผ่าน llama.cpp (quantization Q4_K_M) ซึ่ง Liquid AI เคลมว่าเร็วกว่าโมเดล MoE อื่นๆ ถึง 1.7 เท่าในขณะที่ใช้หน่วยความจำน้อยที่สุด

สำหรับการใช้งานผ่าน Cloud หรือ Serving สามารถผลิต Output ได้สูงถึง 21K tokens/s บน NVIDIA B300 เพียงตัวเดียว โดยรองรับเฟรมเวิร์กยอดนิยมตั้งแต่วันแรก ทั้ง Transformers, vLLM, SGLang, llama.cpp, MLX และ LM Studio

ราคาและเงื่อนไขการใช้งาน

ค่าบริการ API บน Liquid Console อยู่ที่ $0.10 ต่อ 1M input tokens และ $1.00 ต่อ 1M output tokens (มีระบบ cache input ที่ราคา $0.05 ต่อ 1M) พร้อมเครดิตฟรี $2 สำหรับผู้ใช้ใหม่

ในส่วนของน้ำหนักโมเดลใช้สัญญาอนุญาต LFM Open License v1.0 ซึ่งอนุญาตให้ใช้งานเชิงพาณิชย์ได้ฟรี จนกว่าบริษัทจะมีรายได้ต่อปีถึง 10 ล้านเหรียญสหรัฐ

Source: MarkTechPost
ดูแลงานแปลและเรียบเรียงโดย AttapolK

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร