d-Matrix ผนึกกำลัง NVIDIA นำ NVLink Fusion เชื่อมต่อ Raptor XPU สู่โครงสร้างพื้นฐาน AI ระดับโลก

d-Matrix ผู้ผลิตชิป AI inference ประกาศความร่วมมือครั้งสำคัญในการนำ NVIDIA NVLink Fusion มาใช้เพื่อเชื่อมต่อ Raptor XPU รุ่นถัดไปเข้ากับแพลตฟอร์มโครงสร้างพื้นฐาน AI ของ NVIDIA ซึ่งถือเป็นการเข้าร่วมกลุ่มพันธมิตรในระบบนิเวศเทคโนโลยีที่กำลังเติบโตอย่างรวดเร็ว

การเชื่อมต่อ Raptor เข้ากับเครือข่าย NVIDIA NVLink แบบ scale-up และ Spectrum-X แบบ scale-out รวมถึงสถาปัตยกรรมแร็ค NVIDIA MGX จะช่วยให้ d-Matrix มีเส้นทางลัดที่ปลอดภัยและมีความเสี่ยงต่ำ ในการเปลี่ยนผ่านจากซิลิคอนที่ออกแบบเองไปสู่การติดตั้งใช้งานจริงในระดับมหภาค

“ในขณะที่ความต้องการใช้งาน AI inference พุ่งสูงขึ้น แต่ทรัพยากรทั้งด้านเงินทุน เวลา และพลังงานยังคงมีจำกัด” Sid Sheth ผู้ร่วมก่อตั้งและ CEO ของ d-Matrix กล่าวระหว่างการบรรยายสรุปแก่สื่อมวลชน “ด้วยการผสานพลังของ NVLink Fusion และ MGX เราสามารถรวม Raptor XPU เข้ากับสถาปัตยกรรมระบายความร้อนด้วยของเหลวที่แพร่หลาย ช่วยให้ลูกค้าติดตั้งและขยายขนาดระบบทำ ultralow-latency inference ได้รวดเร็วและปลอดภัยยิ่งขึ้น”

แพลตฟอร์ม NVIDIA AI ได้รับการออกแบบให้มีการรวมระบบในแนวตั้ง (vertically integrated) ขณะเดียวกันก็ยังเปิดกว้างในแนวนอน (horizontally open) ซึ่งเทคโนโลยี NVLink Fusion จะช่วยขยายความเปิดกว้างนี้ไปยัง XPU และ CPU ทำให้ผู้ผลิตซิลิคอนสามารถโฟกัสไปที่นวัตกรรมโปรเซสเซอร์ของตนได้อย่างเต็มที่ โดยใช้โครงสร้างพื้นฐานมาตรฐานของ NVIDIA ในการสร้าง AI factory

จาก Custom Silicon สู่การติดตั้งใช้งานระดับแร็ค

ข้อมูลอ้างอิงด่วน: NVIDIA NVLink Fusion

• NVIDIA NVLink Fusion คืออะไร? แพลตฟอร์มที่รวม custom XPU และ CPU จากบุคคลที่สามเข้ากับเครือข่าย NVLink, สถาปัตยกรรมแร็ค MGX และแพลตฟอร์ม AI factory แบบเต็มรูปแบบ ครอบคลุมทั้งด้านการประมวลผล เครือข่าย พื้นที่จัดเก็บข้อมูล และความปลอดภัย

• ช่วยแก้ปัญหาอะไร? การสร้าง custom XPU นั้นยาก แต่การนำไปติดตั้งใช้งานจริงระดับโลกนั้นยากยิ่งกว่า NVLink Fusion ช่วยให้ผู้พัฒนาข้ามขั้นตอนการสร้างโครงสร้างพื้นฐานใหม่เองทั้งหมด และเชื่อมต่อเข้ากับแพลตฟอร์ม AI factory ของ NVIDIA ที่ได้รับการยอมรับทั่วโลกได้ทันที

• ประสิทธิภาพสูงแค่ไหน? ให้ค่าหน่วงเวลา (latency) ระหว่าง XPU ต่ำกว่า Ethernet ทั่วไปถึง 3 เท่า มีอัตราแพ็กเก็ตสูงกว่า 10 เท่า และมีแบนด์วิดท์แบบ all-to-all สูงถึง 3 TB/s ต่อ XPU ผ่าน NVLink รุ่นที่หก

• พันธมิตรรายสำคัญ ได้แก่ d-Matrix, AWS, Arm, Intel, Fujitsu, SiFive, Samsung, Marvell, MediaTek และผู้ให้บริการเทคโนโลยีชั้นนำอื่นๆ อีกมากมาย

• การรองรับสถาปัตยกรรม รองรับ CPU หลักทุกรูปแบบ ทั้ง Arm, x86 และ RISC-V ทำงานควบคู่ไปกับ NVIDIA GPU ได้อย่างไร้รอยต่อ

แนวคิด AI factory แบบ semi-custom คือการจับคู่โครงสร้างพื้นฐานที่ผ่านการพิสูจน์แล้วของ NVIDIA เข้ากับ custom XPU เฉพาะทาง โดย NVLink Fusion จะทำหน้าที่เป็นตัวเชื่อมต่อ (interconnect) ทั้งในด้านสถาปัตยกรรมแร็ค ซอฟต์แวร์ และห่วงโซ่อุปทาน เพื่อให้พันธมิตรมุ่งพัฒนาจุดเด่นของชิปตนเองได้อย่างเต็มประสิทธิภาพ

การสร้าง XPU เป็นเพียงก้าวแรก เพราะการขยายสู่ระดับ AI factory จำเป็นต้องมีองค์ประกอบครบวงจร ทั้งระบบระบายความร้อน พลังงาน และซอฟต์แวร์ ซึ่งขั้นตอนเหล่านี้มักมาพร้อมกับต้นทุนและความเสี่ยงสูง

NVLink Fusion จึงเปิดโอกาสให้นักนวัตกรรมด้านซิลิคอนสามารถ เชื่อมต่อโดยตรงเข้ากับแพลตฟอร์มที่ผ่านการพิสูจน์แล้วของ NVIDIA โดยเทคโนโลยีนี้จะช่วยให้ d-Matrix เข้าถึงการออกแบบแร็คและห่วงโซ่อุปทานของ NVIDIA MGX ได้ทันที ทำให้ศูนย์ข้อมูลสามารถรองรับได้ทั้ง GPU, CPU และ XPU ภายในมาตรฐานเดียวกันโดยไม่ต้องแยกสถาปัตยกรรม

NVLink Fusion รวม d-Matrix XPU เข้ากับ AI Factories

ด้วยการใช้ NVIDIA NVLink ทาง d-Matrix มีแผนที่จะเชื่อมต่อ XPU ของตนในโดเมน scale-up ที่มีแบนด์วิดท์สูงและหน่วงต่ำเป็นพิเศษ นอกจากนี้ แร็คของบริษัทยังสามารถทำงานร่วมกับระบบเดิมอย่าง NVIDIA Vera Rubin NVL72 เพื่อประสิทธิภาพสูงสุดในการทำ disaggregated inference

นอกจากนี้ d-Matrix ยังเตรียมผสานการทำงานร่วมกับ NVIDIA Vera CPU, ConnectX-9 SuperNIC, BlueField-4 DPU และเครือข่าย Spectrum-X Ethernet ซึ่งเมื่อทำงานร่วมกับ NVLink และ MGX แล้ว จะกลายเป็นรากฐานที่แข็งแกร่งสำหรับการติดตั้งระบบ inference เฉพาะทางภายใน AI factories ที่ยืดหยุ่นและเป็นเอกภาพ

เปิดกว้างสู่สถาปัตยกรรม XPU เฉพาะทาง

แพลตฟอร์ม NVIDIA AI factory แบบ full-stack ที่ประกอบด้วย Vera Rubin NVL72, Groq 3 LPX และองค์ประกอบอื่นๆ ถูกออกแบบมาให้สามารถทดแทนกันได้ (fungible) เพื่อรองรับทุกเวิร์กโหลด AI และทุกสถาปัตยกรรมโมเดล โดยมุ่งเน้นประสิทธิภาพต่อวัตต์สูงสุดและต้นทุนต่อโทเค็นต่ำที่สุด

NVLink Fusion มอบความยืดหยุ่นให้ลูกค้าเลือกใช้การประมวลผลที่เหมาะสมที่สุดสำหรับแต่ละงาน ภายใต้ระบบนิเวศเครือข่ายและห่วงโซ่อุปทานระดับโลกของ NVIDIA ช่วยให้นักพัฒนาอย่าง d-Matrix สามารถเร่งเวลาในการออกสู่ตลาด (time-to-market) และลดความเสี่ยงในการสร้าง AI factory แบบ semi-custom ได้อย่างมีนัยสำคัญ