Inception เปิดตัว Mercury 3 ชูความเร็ว 1,068 Tokens ต่อวินาที

· By: TanasakP

Inception เปิดตัว Mercury 3 ชูความเร็ว 1,068 Tokens ต่อวินาที

Inception ประกาศเปิดตัว Mercury 3 โมเดลภาษาล่าสุดในตระกูล Diffusion LLM ที่ใช้วิธีการเขียนคำตอบแบบขนาน (parallel) แทนการเขียนทีละ token แบบเดิม โดยรายงานความเร็วสูงถึง 1,068 tokens ต่อวินาทีบน NVIDIA GPUs และรองรับ context window ขนาด 1M tokens ซึ่งนับเป็นความเร็วที่โดดเด่นมากสำหรับการสร้าง AI agent, voice bot และเครื่องมือค้นหา

จากผลการทดสอบโดย Inception เองพบว่า Mercury 3 มีคะแนนนำ GPT-6 Luna และ Claude Haiku 5.5 ใน 8 จาก 12 หัวข้อการทดสอบ โดยเฉพาะในด้านการประมวลผลที่เน้นความเร็วและประสิทธิภาพของ Agent ที่น่าสนใจ

TL;DR

  • ขนาด: ไม่ระบุพารามิเตอร์แน่ชัด แต่ใหญ่กว่า Mercury 1 กว่า 40 เท่า และรองรับ Context 1M tokens
  • การใช้งาน: รันบน NVIDIA GPUs ของ Inception ให้บริการผ่าน API เท่านั้น ไม่มีการเปิด Open weights หรือรุ่น quantized
  • ประสิทธิภาพ: ชนะ 8 จาก 12 เบนช์มาร์กเมื่อเทียบกับ GPT-6 Luna และ Haiku 5.5 (รายงานโดยผู้ผลิตภายใต้การตั้งค่าระดับ medium)
  • จุดแข็ง: SWE-Bench Atlas อยู่ที่ 51.08 นำหน้าคู่แข่งประมาณ 18 จุด
  • จุดด้อย: DeepSWE v1 อยู่ที่ 46.31 ตามหลัง Haiku 5.5 (51.62) อยู่ 5.31 จุด

Mercury 3 คืออะไร?

Mercury 3 เป็นรุ่นที่สี่ของตระกูล Mercury ต่อจากรุ่น 1, 2 และ 2.5 โดยพัฒนาขึ้นตามแนวทางของ ประกาศเปิดตัว ซึ่งรุ่นก่อนหน้าอย่าง Mercury 2.5 เคยนำเสนอฟีเจอร์การให้เหตุผลที่ปรับแต่งได้ (tunable reasoning) และรองรับบริบท 260K มาแล้ว

diffusion LLM ทำงานอย่างไร?

ในขณะที่โมเดลแบบ Autoregressive ทั่วไปจะเขียนทีละ token ต่อเนื่องกันทำให้ต้องรอตามลำดับ แต่ diffusion LLM จะสร้างร่างคำตอบทั้งหมดขึ้นมาพร้อมกัน แล้วค่อยๆ ขัดเกลา (refines) ทุกตำแหน่งไปพร้อมกันแบบขนานผ่านการประมวลผลเพียงไม่กี่รอบ

การลดขั้นตอนแบบลำดับ (sequential steps) ช่วยให้ทำงานได้เร็วขึ้นอย่างมากบน GPU รุ่นเดียวกัน อย่างไรก็ตาม ยังมีคำถามที่น่าติดตามว่าแนวทางนี้จะคงประสิทธิภาพได้ดีเพียงใดเมื่อขยายขนาดโมเดลให้ใหญ่ขึ้นในอนาคต

diffusion สามารถขยายขนาด (scale) ได้หรือไม่?

Inception ยืนยันว่าสามารถขยายขนาดได้ โดย Mercury 3 มีพารามิเตอร์รวมมากกว่า Mercury 1 (รุ่น mini) ถึง 40 เท่า และมีคุณภาพเฉลี่ยในเบนช์มาร์กเพิ่มขึ้นประมาณ 3 เท่า ในขณะที่ยังคงรักษาความเร็วไว้ได้สูงกว่า 1,000 tokens ต่อวินาที

ทีมพัฒนาได้พล็อตกราฟความสัมพันธ์ระหว่างคุณภาพและขนาดจาก Mercury ทั้ง 5 เจเนอเรชัน เพื่อแสดงให้เห็นถึงพัฒนาการที่ก้าวกระโดดนี้

Mercury 3 มีประสิทธิภาพอย่างไรในเบนช์มาร์ก?

อ้างอิงข้อมูลจาก ตารางของ Inception ทุกโมเดลถูกทดสอบที่การตั้งค่าระดับ medium พบว่า Mercury 3 ทำคะแนนได้ดีที่สุดในด้านการทำตามคำสั่ง (instruction following) และการเขียนโค้ดสำหรับ agent (agentic coding)

ตัวเลขที่น่าสนใจคือ IFBench สูงถึง 76.84 (นำ GPT-6 Luna 15 จุด) และ SWE-Bench Atlas ที่ 51.08 (ชนะ Luna และ Haiku 5.5 ที่ทำได้ราว 32-33 จุด) อย่างไรก็ตาม Haiku 5.5 ยังคงชนะใน DeepSWE v1 และ MRCR v2 ส่วนการดึงข้อมูลจากบริบทที่ยาว (Long-context retrieval) ยังคงเป็นประเด็นที่ต้องพัฒนาต่อ

Mercury 3 vs GPT-6 Luna vs Claude Haiku 5.5

คุณสมบัติMercury 3GPT-6 LunaClaude Haiku 5.5
ผู้พัฒนาInceptionOpenAIAnthropic
วิธีการสร้างคำตอบDiffusion (parallel refinement)ไม่เปิดเผยไม่เปิดเผย
พารามิเตอร์ไม่เปิดเผยไม่เปิดเผยไม่เปิดเผย
Context window1M1.05M1M
Output สูงสุดไม่เปิดเผย128K128K
รูปแบบ Inputไม่เปิดเผยข้อความ, รูปภาพข้อความ, รูปภาพ
Open weightsไม่ (API)ไม่ (API)ไม่ (API)
ความเร็ว Output1,068 tok/s~130 tok/s~240 tok/s
ราคา ($/1M เข้า/ออก)$0.20 / $0.70 ($0.10 / $0.35 ช่วงเปิดตัว)$0.10 / $0.50$0.10 / $0.50
GPQA Diamond89.2386.3684.51
IFBench76.8461.8254.65
SWE-Bench Atlas51.0833.3332.26
DeepSWE v146.3137.7651.62
MRCR v275.5062.7278.40

หมายเหตุ: ข้อมูลความเร็วและเบนช์มาร์กมาจากการทดสอบของ Inception ส่วนราคามาจากเอกสารของผู้ให้บริการแต่ละราย

ผู้ใช้งานกลุ่มแรกรายงานว่าอย่างไร?

จากการทดสอบของพันธมิตรกลุ่มแรก Inception ระบุว่า TinyFish ประสบความสำเร็จในการใช้ Mercury 3 กับงาน Mind2Web 50 งาน โดยชนะโมเดล GPT-6.1-Sol ในด้านความสำเร็จ ขณะที่ Octen AI รายงานว่าสามารถสร้างคำตอบได้เร็วเฉลี่ย 0.9 วินาทีสำหรับการค้นหาผ่านแว่นตาอัจฉริยะ

นอกจากนี้ RevisionDojo และ Lorikeet ต่างชื่นชมในเรื่องของ Latency ที่ต่ำมาก ซึ่งส่งผลดีต่อการนำไปใช้ในระบบ support agent และการให้คำแนะนำแบบทันท่วงที

นักพัฒนาจะใช้งาน Mercury 3 ได้อย่างไร?

Mercury 3 พร้อมใช้งานแล้วผ่าน Inception API Platform, OpenRouter, Baseten และ Vercel โดย API ออกแบบมาให้ทำงานร่วมกับ OpenAI ได้ทันทีผ่านการตั้งค่าใน docs

ราคาปกติอยู่ที่ $0.20 ต่อ 1M input และ $0.70 ต่อ 1M output แต่จะมีโปรโมชันลดราคา 50% ในช่วงเปิดตัว นอกจากนี้ยังมีโมเดลพี่น้องอย่าง Mercury Voice สำหรับงานเสียง และ Mercury Decide สำหรับการจำแนกประเภทข้อมูลเปิดตัวออกมาพร้อมกันด้วย

สรุปประเด็นสำคัญ

  • Mercury 3 ชูจุดเด่นเรื่องความเร็ว 1,068 tok/s และบริบท 1M tokens
  • ทำคะแนนเบนช์มาร์กชนะคู่แข่งรายใหญ่อย่าง GPT-6 Luna และ Haiku 5.5 ในหลายด้าน
  • จุดแข็งที่สุดคือการเขียนโค้ดและทำตามคำสั่ง (SWE-Bench และ IFBench)
  • ราคาช่วงเปิดตัวเข้าถึงง่ายที่ $0.10 สำหรับ input และ $0.35 สำหรับ output ต่อล้าน tokens
Source: MarkTechPost
ดูแลงานแปลและเรียบเรียงโดย TanasakP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร