Recursive เปิดตัว Flint โมเดล Coding MoE 40B ทำงานเร็วระดับ 2.5B
Recursive Superintelligence เปิดตัว Flint โมเดล Coding ท้องถิ่นตัวแรกของบริษัทในรูปแบบ mixture-of-experts (MoE) ที่มีพารามิเตอร์รวม 40B แต่มีพารามิเตอร์ขณะทำงาน (active parameters) เพียง 2.5B โดยทีมงานระบุว่า Eureka Machine ซึ่งเป็นระบบวิจัยอัตโนมัติของบริษัทมีส่วนสำคัญในการสร้างเกือบทุกส่วนของ stack และได้เผยแพร่ weights ของโมเดลบน Hugging Face ภายใต้สัญญาอนุญาต Apache 2.0
TL;DR
- ขนาด: รวม 39.8B ใช้งานจริงประมาณ 2.5B ต่อ token รองรับบริบท (Context) สูงสุดถึง 512k ตามข้อมูลในบล็อก
- ฮาร์ดแวร์: รันบน Apple Silicon (M4 Pro, M5 Pro, M5 Max) หรือ NVIDIA GPU ที่มีแรม 48 GB โดย weights แบบ 4-bit ใช้พื้นที่ประมาณ 23 GB
- ประสิทธิภาพ: ครองอันดับต้นๆ ในกลุ่มโมเดล MoE ต่ำกว่า 50B สำหรับ agentic coding แต่ยังตามหลังโมเดลแบบ dense ที่แรงที่สุดบางตัว
- จุดเด่น: ทำคะแนน IFEval ได้ 95.1% และ SWE-bench Verified 74.2%
- จุดด้อย: คะแนน Terminal-Bench 2.1 อยู่ที่ 54.9% ขณะที่ Qwen 3.8 แบบ dense ทำได้ 73.0%
Recursive Flint คืออะไร?
Flint คือ MoE Transformer แบบ decoder-only ที่ออกแบบมาเพื่อ coding agents โดยเฉพาะ model สามารถสำรวจ codebase, แก้ไข bug, เพิ่มฟีเจอร์ และเขียน test ได้ ตัวโมเดลรองรับการทำงานแบบ text-only รวมถึงการให้เหตุผล (reasoning) และการเรียกใช้เครื่องมือ (tool calls) ที่เข้ากันได้กับ OpenAI
สถาปัตยกรรมของ Flint ทำงานอย่างไร?
Flint ประกอบด้วย 49 เลเยอร์ แบ่งเป็นเลเยอร์แบบ dense 2 เลเยอร์ และเลเยอร์แบบ MoE 47 เลเยอร์ ซึ่งแต่ละเลเยอร์ MoE จะมี 256 routed experts โดยระบบจะเลือกใช้ 6 experts ต่อ token พร้อมกับ 1 shared expert ที่ทำงานตลอดเวลา
ด้านระบบ Attention มีการผสมผสาน 2 รูปแบบ คือ 35 เลเยอร์ใช้ sliding window ขนาด 513-token และอีก 14 เลเยอร์ใช้ full attention แบบไม่มี positional encoding โดยมี 32 query heads และ 4 key/value heads ทั้งนี้ตัวเลขพารามิเตอร์ขณะทำงาน 2.5B นั้นรวมส่วน output head แล้ว หากนับเฉพาะส่วน body จะมีประมาณ 2.2B พารามิเตอร์
Eureka Machine ช่วยสร้าง Flint อย่างไร?
Eureka Machine ทำหน้าที่เสนอไอเดีย นำไปใช้จริง ทดสอบ และวางแผนการวิจัยในลำดับถัดไป โดย Recursive เน้นย้ำถึง 3 ส่วนหลักที่ระบบนี้เข้ามามีบทบาท:
- สถาปัตยกรรม (Architecture): ช่วยค้นหาการตั้งค่า expert และความกว้างของเลเยอร์ที่เหมาะสมที่สุด จนได้สถาปัตยกรรมรวม 40B ที่ทำงานจริงเพียง 2.5B
- การทำ Quantization: มีการทำ quantization เลเยอร์ lm_head ให้เหลือ 4 bits โดยใช้กระบวนการ distillation แบบออฟไลน์ที่มีโมเดล 16-bit เป็นผู้สอน เพื่อคงความแม่นยำและลดขั้นตอนการเทรนลงเกือบครึ่ง
- Kernels: มีการเขียน specialized kernels สำหรับการประมวลผลต่างๆ โดยเฉพาะชิป M4 และ M5 ที่ใช้ Metal megakernel เพื่อหลอมรวมการประมวลผล decode forward pass ทั้งหมดเข้าด้วยกัน
ประสิทธิภาพบน Coding Benchmarks
ผลคะแนนที่รายงานโดย Recursive ภายใต้การตั้งค่า temperature 1.0, top-p 0.95 และ top-k 20 มีรายละเอียดดังนี้:
| Benchmark | Flint BF16 | Flint NVFP4 |
|---|---|---|
| Terminal-Bench 2.1 | 54.9% | 53.7% |
| SWE-bench Pro v2 | 89.7% | 88.5% |
| SWE-bench Verified | 74.2% | 74.1% |
| LiveCodeBench v6 | 80.3% | 80.8% |
| IFBench | 89.2% | 88.1% |
| IFEval | 95.1% | 94.6% |
จากการทดสอบ SWE-bench ด้วย mini-swe-agent แบบไม่ต่ออินเทอร์เน็ต Flint ทำคะแนนได้เหนือกว่า Qwen 3.6 (MoE) ที่ได้ 73.4% แต่ในส่วนของ Terminal-Bench 2.1 นั้น Flint ยังตามหลัง Qwen 3.8 แบบ dense ที่ทำได้ถึง 73.0%
ตารางเปรียบเทียบจาก Recursive (คะแนนเป็น %, † วัดโดย Recursive):
| โมเดล | Terminal-Bench 2.1 | SWE-bench Pro v2† | SWE-bench Verified | LiveCodeBench v6 | IFBench | IFEval |
|---|---|---|---|---|---|---|
| Flint BF16 | 54.9 | 89.7 | 74.2 | 80.3 | 89.2 | 95.1 |
| Flint NVFP4 | 53.7 | 88.5 | 74.1 | 80.8 | 88.1 | 94.6 |
| Qwen 3.5 (MoE) | 38.7 | 68.6 | 69.2 | 74.6 | 70.2 | 91.9 |
| Qwen 3.6 (MoE) | 44.9 | 73.8 | 73.4 | 80.4 | 67.9 | 89.6 |
| Laguna XS 2.1 (MoE) | 24.7† | 38.6 | 70.9 | 49.5† | 34.4† | 73.7† |
| Qwen 3.8 (dense) | 73.0 | 94.9 | 75.6† | 90.3 | 79.5 | 94.6† |
| Muse Glimmer (dense) | 51.7 | 86.0 | 76.0 | 63.5† | 77.0 | 94.7† |
| Gemma 4 (dense) | 43.4 | 61.7 | 66.6 | 80.0 | 76.0 | 94.6 |
การเปรียบเทียบกับคู่แข่งในตลาด
ตารางเปรียบเทียบข้อมูลจาก model card ของผู้พัฒนาแต่ละราย:
| คุณสมบัติ | Recursive Flint | Qwen3.6-35B-A3B | Laguna XS 2.1 | Gemma 4 31B |
|---|---|---|---|---|
| ผู้พัฒนา | Recursive | Qwen (Alibaba) | Poolside | Google DeepMind |
| พารามิเตอร์รวม | 39.8B | 35B | 33B | 30.7B |
| พารามิเตอร์ขณะทำงาน | ~2.5B | 3B | 3B | 30.7B (dense) |
| บริบท (Context) | สูงสุด 512k | native 262k, max 1M | 262,144 | 256K |
| Modality | ข้อความ | ข้อความ + รูปภาพ | ข้อความ | ข้อความ + รูปภาพ |
| สัญญาอนุญาต | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 | Apache 2.0 |
| ฮาร์ดแวร์ท้องถิ่น | Mac หรือ GPU 48 GB | ไม่ระบุ | Mac RAM 36 GB | Consumer GPUs |
| SWE-bench Verified | 74.2% | 73.4% | 70.9% | ไม่ระบุ |
ความเร็วและข้อกำหนดฮาร์ดแวร์
Recursive ระบุว่า Flint มีความเร็วสูงกว่า 125 tokens/s บน M4 Pro MacBook Pro และสูงกว่า 150 tokens/s บน NVIDIA RTX Spark 64 GB ในช่วงบริบทระยะสั้น ซึ่งเร็วกว่าโมเดลระดับเดียวกันถึง 2 เท่า และเร็วกว่าโมเดลแบบ dense (25-40B) ที่มีคะแนนใกล้เคียงกันถึง 5 เท่า
สำหรับการใช้งานท้องถิ่นมี 3 ทางเลือก:
- Apple Silicon: ใช้ Flint INT4 บน M4 Pro ขึ้นไปที่มีแรม 48 GB โดยผ่าน rec engine ซึ่งเร็วกว่า llama.cpp สูงสุด 2.6 เท่า
- NVIDIA: ใช้ไฟล์ NVFP4 GGUF ขนาด 22.9 GB แนะนำแรม GPU 48 GB
- เซิร์ฟเวอร์: BF16 checkpoint ขนาด 80 GB ต้องใช้ GPU B300 หรือ H200 จำนวน 1 ใบ
นอกจากนี้ Flint ยังรองรับเครื่องมือยอดนิยมอย่าง llama.cpp, Ollama, Unsloth, LM Studio, vLLM และ SGLang อีกด้วย
สรุปประเด็นสำคัญ
Flint เป็นโมเดล coding MoE ที่โดดเด่นด้วยประสิทธิภาพพารามิเตอร์ขณะทำงานเพียง 2.5B แต่ทำผลงานบน SWE-bench Verified ได้ยอดเยี่ยม สามารถรันแบบท้องถิ่นบน Mac หรือ GPU ระดับ 48 GB ได้ด้วยพื้นที่เพียง 23 GB ผ่านเทคโนโลยี Eureka Machine ที่ช่วยปรับแต่งทั้งสถาปัตยกรรมและ quantization อย่างมีประสิทธิภาพ ทั้งนี้คะแนน SWE-bench Pro v2 เป็นการทดสอบภายในโดย Recursive ซึ่งอาจแตกต่างจากการทดสอบสาธารณะ
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร