Inception เปิดตัว Mercury 3 ชูความเร็ว 1,068 Tokens ต่อวินาที

Inception ประกาศเปิดตัว Mercury 3 โมเดลภาษาล่าสุดในตระกูล Diffusion LLM ที่ใช้วิธีการเขียนคำตอบแบบขนาน (parallel) แทนการเขียนทีละ token แบบเดิม โดยรายงานความเร็วสูงถึง 1,068 tokens ต่อวินาทีบน NVIDIA GPUs และรองรับ context window ขนาด 1M tokens ซึ่งนับเป็นความเร็วที่โดดเด่นมากสำหรับการสร้าง AI agent, voice bot และเครื่องมือค้นหา
จากผลการทดสอบโดย Inception เองพบว่า Mercury 3 มีคะแนนนำ GPT-6 Luna และ Claude Haiku 5.5 ใน 8 จาก 12 หัวข้อการทดสอบ โดยเฉพาะในด้านการประมวลผลที่เน้นความเร็วและประสิทธิภาพของ Agent ที่น่าสนใจ
TL;DR
- ขนาด: ไม่ระบุพารามิเตอร์แน่ชัด แต่ใหญ่กว่า Mercury 1 กว่า 40 เท่า และรองรับ Context 1M tokens
- การใช้งาน: รันบน NVIDIA GPUs ของ Inception ให้บริการผ่าน API เท่านั้น ไม่มีการเปิด Open weights หรือรุ่น quantized
- ประสิทธิภาพ: ชนะ 8 จาก 12 เบนช์มาร์กเมื่อเทียบกับ GPT-6 Luna และ Haiku 5.5 (รายงานโดยผู้ผลิตภายใต้การตั้งค่าระดับ medium)
- จุดแข็ง: SWE-Bench Atlas อยู่ที่ 51.08 นำหน้าคู่แข่งประมาณ 18 จุด
- จุดด้อย: DeepSWE v1 อยู่ที่ 46.31 ตามหลัง Haiku 5.5 (51.62) อยู่ 5.31 จุด
Mercury 3 คืออะไร?
Mercury 3 เป็นรุ่นที่สี่ของตระกูล Mercury ต่อจากรุ่น 1, 2 และ 2.5 โดยพัฒนาขึ้นตามแนวทางของ ประกาศเปิดตัว ซึ่งรุ่นก่อนหน้าอย่าง Mercury 2.5 เคยนำเสนอฟีเจอร์การให้เหตุผลที่ปรับแต่งได้ (tunable reasoning) และรองรับบริบท 260K มาแล้ว
diffusion LLM ทำงานอย่างไร?
ในขณะที่โมเดลแบบ Autoregressive ทั่วไปจะเขียนทีละ token ต่อเนื่องกันทำให้ต้องรอตามลำดับ แต่ diffusion LLM จะสร้างร่างคำตอบทั้งหมดขึ้นมาพร้อมกัน แล้วค่อยๆ ขัดเกลา (refines) ทุกตำแหน่งไปพร้อมกันแบบขนานผ่านการประมวลผลเพียงไม่กี่รอบ
การลดขั้นตอนแบบลำดับ (sequential steps) ช่วยให้ทำงานได้เร็วขึ้นอย่างมากบน GPU รุ่นเดียวกัน อย่างไรก็ตาม ยังมีคำถามที่น่าติดตามว่าแนวทางนี้จะคงประสิทธิภาพได้ดีเพียงใดเมื่อขยายขนาดโมเดลให้ใหญ่ขึ้นในอนาคต
diffusion สามารถขยายขนาด (scale) ได้หรือไม่?
Inception ยืนยันว่าสามารถขยายขนาดได้ โดย Mercury 3 มีพารามิเตอร์รวมมากกว่า Mercury 1 (รุ่น mini) ถึง 40 เท่า และมีคุณภาพเฉลี่ยในเบนช์มาร์กเพิ่มขึ้นประมาณ 3 เท่า ในขณะที่ยังคงรักษาความเร็วไว้ได้สูงกว่า 1,000 tokens ต่อวินาที
ทีมพัฒนาได้พล็อตกราฟความสัมพันธ์ระหว่างคุณภาพและขนาดจาก Mercury ทั้ง 5 เจเนอเรชัน เพื่อแสดงให้เห็นถึงพัฒนาการที่ก้าวกระโดดนี้
Mercury 3 มีประสิทธิภาพอย่างไรในเบนช์มาร์ก?
อ้างอิงข้อมูลจาก ตารางของ Inception ทุกโมเดลถูกทดสอบที่การตั้งค่าระดับ medium พบว่า Mercury 3 ทำคะแนนได้ดีที่สุดในด้านการทำตามคำสั่ง (instruction following) และการเขียนโค้ดสำหรับ agent (agentic coding)
ตัวเลขที่น่าสนใจคือ IFBench สูงถึง 76.84 (นำ GPT-6 Luna 15 จุด) และ SWE-Bench Atlas ที่ 51.08 (ชนะ Luna และ Haiku 5.5 ที่ทำได้ราว 32-33 จุด) อย่างไรก็ตาม Haiku 5.5 ยังคงชนะใน DeepSWE v1 และ MRCR v2 ส่วนการดึงข้อมูลจากบริบทที่ยาว (Long-context retrieval) ยังคงเป็นประเด็นที่ต้องพัฒนาต่อ
Mercury 3 vs GPT-6 Luna vs Claude Haiku 5.5
| คุณสมบัติ | Mercury 3 | GPT-6 Luna | Claude Haiku 5.5 |
|---|---|---|---|
| ผู้พัฒนา | Inception | OpenAI | Anthropic |
| วิธีการสร้างคำตอบ | Diffusion (parallel refinement) | ไม่เปิดเผย | ไม่เปิดเผย |
| พารามิเตอร์ | ไม่เปิดเผย | ไม่เปิดเผย | ไม่เปิดเผย |
| Context window | 1M | 1.05M | 1M |
| Output สูงสุด | ไม่เปิดเผย | 128K | 128K |
| รูปแบบ Input | ไม่เปิดเผย | ข้อความ, รูปภาพ | ข้อความ, รูปภาพ |
| Open weights | ไม่ (API) | ไม่ (API) | ไม่ (API) |
| ความเร็ว Output | 1,068 tok/s | ~130 tok/s | ~240 tok/s |
| ราคา ($/1M เข้า/ออก) | $0.20 / $0.70 ($0.10 / $0.35 ช่วงเปิดตัว) | $0.10 / $0.50 | $0.10 / $0.50 |
| GPQA Diamond | 89.23 | 86.36 | 84.51 |
| IFBench | 76.84 | 61.82 | 54.65 |
| SWE-Bench Atlas | 51.08 | 33.33 | 32.26 |
| DeepSWE v1 | 46.31 | 37.76 | 51.62 |
| MRCR v2 | 75.50 | 62.72 | 78.40 |
หมายเหตุ: ข้อมูลความเร็วและเบนช์มาร์กมาจากการทดสอบของ Inception ส่วนราคามาจากเอกสารของผู้ให้บริการแต่ละราย
ผู้ใช้งานกลุ่มแรกรายงานว่าอย่างไร?
จากการทดสอบของพันธมิตรกลุ่มแรก Inception ระบุว่า TinyFish ประสบความสำเร็จในการใช้ Mercury 3 กับงาน Mind2Web 50 งาน โดยชนะโมเดล GPT-6.1-Sol ในด้านความสำเร็จ ขณะที่ Octen AI รายงานว่าสามารถสร้างคำตอบได้เร็วเฉลี่ย 0.9 วินาทีสำหรับการค้นหาผ่านแว่นตาอัจฉริยะ
นอกจากนี้ RevisionDojo และ Lorikeet ต่างชื่นชมในเรื่องของ Latency ที่ต่ำมาก ซึ่งส่งผลดีต่อการนำไปใช้ในระบบ support agent และการให้คำแนะนำแบบทันท่วงที
นักพัฒนาจะใช้งาน Mercury 3 ได้อย่างไร?
Mercury 3 พร้อมใช้งานแล้วผ่าน Inception API Platform, OpenRouter, Baseten และ Vercel โดย API ออกแบบมาให้ทำงานร่วมกับ OpenAI ได้ทันทีผ่านการตั้งค่าใน docs
ราคาปกติอยู่ที่ $0.20 ต่อ 1M input และ $0.70 ต่อ 1M output แต่จะมีโปรโมชันลดราคา 50% ในช่วงเปิดตัว นอกจากนี้ยังมีโมเดลพี่น้องอย่าง Mercury Voice สำหรับงานเสียง และ Mercury Decide สำหรับการจำแนกประเภทข้อมูลเปิดตัวออกมาพร้อมกันด้วย
สรุปประเด็นสำคัญ
- Mercury 3 ชูจุดเด่นเรื่องความเร็ว 1,068 tok/s และบริบท 1M tokens
- ทำคะแนนเบนช์มาร์กชนะคู่แข่งรายใหญ่อย่าง GPT-6 Luna และ Haiku 5.5 ในหลายด้าน
- จุดแข็งที่สุดคือการเขียนโค้ดและทำตามคำสั่ง (SWE-Bench และ IFBench)
- ราคาช่วงเปิดตัวเข้าถึงง่ายที่ $0.10 สำหรับ input และ $0.35 สำหรับ output ต่อล้าน tokens
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
