StepFun เปิดตัว Step 5 Preview โมเดล MoE 600B แบบ Open Weights

StepFun ประกาศเปิดตัว Step 5 Preview ในรูปแบบ open weights โดยมี checkpoint ให้เลือกใช้งานทั้งรูปแบบ FP8 และ BF16 บนแพลตฟอร์ม Hugging Face และ ModelScope แล้วในปัจจุบัน

โมเดลดังกล่าวเป็นสถาปัตยกรรม sparse Mixture-of-Experts (MoE) ที่ออกแบบมาเพื่อรองรับการทำงานแบบ agentic ในระยะยาวโดยเฉพาะ มาพร้อมพารามิเตอร์รวม 600B ซึ่งจะมีการเปิดใช้งานจริง (active) เพียง 27B ต่อหนึ่ง token และสามารถรองรับ context window ได้สูงสุดถึง 1M tokens เหมาะสำหรับนักพัฒนาที่ต้องการสร้าง coding agents การวิเคราะห์เอกสารขนาดใหญ่ และเวิร์กโฟลว์ด้านการเงินที่สามารถโฮสต์เองได้ (self-hostable)

TL;DR

• ขนาด: พารามิเตอร์รวม 600B, ใช้งานจริง 27B ต่อ token และรองรับ context สูงสุด 1M-token
• ความต้องการระบบ: ต้องรันบน GPU ระดับ data-center เท่านั้น โดยรูปแบบ FP8 ต้องการ 4x B300 หรือ 8x H200 ส่วน BF16 ต้องการ 8x B300 หรือ 16x H200
• ประสิทธิภาพ: ใกล้เคียงกับ GLM-5.3 และ Kimi K3 ในด้านการเขียนโค้ด แต่ยังตามหลัง GPT-6 Astra และ Claude Opus 5
• คะแนนสูงสุด: 88.3% ในด้าน long-context reasoning บน AA-LCR (Artificial Analysis)
• คะแนนต่ำสุด: 33.3% บน Terminal-Bench 4.0 ซึ่งยังตามหลัง GLM-5.3 ที่ทำได้ 41.9%

Step 5 Preview คืออะไร?

Step 5 Preview คือโมเดลระดับเรือธงจาก StepFun ที่เน้นการทำงานด้าน agentic โดยวางตำแหน่งให้เหมาะกับงานวิศวกรรมซอฟต์แวร์ งานวิชาชีพ และการเงินเป็นหลัก โมเดลมีความสามารถในการสำรวจฐานโค้ด (codebase) ขนาดใหญ่ ประสานงานแก้ไขไฟล์หลายไฟล์พร้อมกัน รันโค้ด และปรับปรุงผลลัพธ์แบบวนซ้ำ รวมถึงการวิเคราะห์เอกสาร แผนภูมิ ภาพหน้าจอ และวิดีโอเพื่อสร้างรายงานอย่างเป็นระบบ

ทาง StepFun ได้เปิดตัว API เมื่อวันที่ 20 กันยายน และเริ่มเผยแพร่น้ำหนักโมเดล (weights) เมื่อวันที่ 14 ตุลาคม ที่ผ่านมา

สถาปัตยกรรมทำงานอย่างไร?

ในแต่ละการประมวลผลต่อ token จะมีการเรียกใช้พารามิเตอร์เพียง 27B จากทั้งหมด 600B โดยทีมเทคนิคของ StepFun ได้ระบุรายละเอียดเชิงลึกไว้ดังนี้:

• ความลึก: ใช้โครงสร้าง transformer blocks จำนวน 92 ชั้น ในรูปแบบที่เน้นความลึกและแคบ
• ระบบ Attention: ผสมผสานระหว่าง gated sliding-window attention และ full attention ในสัดส่วน 3:1
• Sparse GQA: ในส่วน full-attention layers จะคัดเลือก 4,096 history tokens ต่อหนึ่ง query โดยจัดกลุ่มให้คะแนนบล็อกละ 8
• Speculative decoding: ใช้ส่วนหัว MTP-3 ช่วยเพิ่มความเร็วในการประมวลผล end-to-end ได้ประมาณ 30%
• การฝึกฝน: พัฒนาด้วยเทคนิค FP8 mixed precision ร่วมกับการใช้ RL ในสภาพแวดล้อม agentic ที่สามารถตรวจสอบข้อมูลได้นับล้านรายการ

ประสิทธิภาพของ Step 5 Preview บนเบนช์มาร์กเป็นอย่างไร?

StepFun ได้ทดสอบประสิทธิภาพโดยตั้งค่าการใช้เหตุผลไว้ที่ระดับ High ขณะที่คู่แข่งอื่นๆ ในตารางใช้ระดับสูงสุด (Max) ทำให้การเปรียบเทียบนี้อาจมีเงื่อนไขที่แตกต่างกันเล็กน้อย

ผลการทดสอบที่ปรากฏบน Hugging Face:

• DeepSWE v1.1: 67.7 (ทดสอบด้วย SWE-agent harness, temperature 1.0, top_p 0.95)
• Terminal-Bench 4.0: 33.3
• Agents’ Last Exam (ALE-CLI): 29.5

ข้อมูลจากหน่วยงานอิสระอย่าง Artificial Analysis ผ่าน OpenRouter ระบุว่าโมเดลได้คะแนน 43.7 ใน Intelligence Index, 88.3% ใน AA-LCR และ 46.5% ใน Humanity’s Last Exam ขณะที่คะแนน GDPval-AA อยู่ที่ 54.3%

อย่างไรก็ตาม จากผลทดสอบของ Vals AI แสดงให้เห็นจุดที่ควรพัฒนาในบางด้าน เช่น SRE Bench ที่ทำได้เพียง 0.4% และ Harvey’s Legal Agent Benchmark ที่ 9.2%

ในกลุ่มอุตสาหกรรมการเงิน ตารางของ StepFun ระบุคะแนน 66.4% บน FrontierFinance ซึ่งถือว่านำหน้า GLM-5.3 และ Kimi K3 แต่ยังคงตามหลัง Claude Opus 5 ที่ทำไว้ 69.7%

เปรียบเทียบกับโมเดล open-weight อื่นๆ

ข้อมูลเบนช์มาร์กอ้างอิงจากตารางเปรียบเทียบของ StepFun ผ่านการสรุปโดย CellCog และ eesel

ความต้องการฮาร์ดแวร์สำหรับรัน Step 5 Preview เนื่องจากเป็นโมเดลระดับ data-center เฉพาะไฟล์ checkpoint แบบ FP8 ก็มีขนาดใหญ่ถึง 650.32 GB โดยมีการกำหนดค่าที่แนะนำดังนี้:

• FP8 (vLLM หรือ SGLang): ต้องใช้ GPU B300 จำนวน 4 ตัว หรือ GPU H200 จำนวน 8 ตัว ภายใน 1 node
• BF16 (vLLM): ต้องใช้ GPU B300 จำนวน 8 ตัว ใน 1 node หรือ GPU H200 จำนวน 16 ตัว แบ่งเป็น 2 nodes
• Transformers: ปัจจุบันรองรับเฉพาะการประมวลผลแบบ offline ส่วนการใช้งาน BF16 shard อย่างเต็มรูปแบบยังอยู่ในขั้นตอนการตรวจสอบ

สำหรับผู้ใช้งาน vLLM และ SGLang มีการเตรียม Docker images เฉพาะ ที่รองรับ API รูปแบบเดียวกับ OpenAI ส่วนสถาปัตยกรรม Blackwell จะใช้ MegaMoE backend โดยแนะนำให้ตั้งค่า temperature 1.0, top_p 0.95 และ top_k 0

ราคา API

StepFun API คิดค่าบริการ input อยู่ที่ $1.00 ต่อ 1M tokens และ output ที่ $2.70 ต่อ 1M tokens โดยหากมีการเรียกใช้ข้อมูลจากแคช (Cache hits) จะคิดราคาเพียง $0.10 ต่อ 1M tokens ทั้งนี้ราคาของ output จะครอบคลุมถึง reasoning tokens ด้วย โดยตัว API รองรับการปรับระดับความพยายามในการใช้เหตุผล การเรียกใช้เครื่องมือ และการรับส่งข้อมูลในรูปแบบ JSON Schema

สรุปประเด็นสำคัญ

• โมเดล MoE 600B พร้อมใช้งานแบบ open weights ในรูปแบบ FP8 และ BF16 โดยรองรับ 1M context
• ต้องการฮาร์ดแวร์ระดับสูง โดยขั้นต่ำคือ GPU 4x B300 สำหรับรูปแบบ FP8
• ประสิทธิภาพโดดเด่นในด้าน long-context reasoning แต่ยังมีจุดอ่อนในงานด้าน Terminal-Bench 4.0
• ราคาบริการ API อยู่ที่ $1.00 สำหรับขาเข้า และ $2.70 สำหรับขาออกต่อ 1M tokens