NVIDIA เปิดตัว NVHBM ยกระดับหน่วยความจำความเร็วสูงผ่าน NVLink Fusion เพื่อโครงสร้างพื้นฐาน AI ยุคใหม่

คลื่นลูกใหม่ของเทคโนโลยี AI กำลังสร้างความต้องการที่เปลี่ยนแปลงไปสำหรับโครงสร้างพื้นฐานดิจิทัล เมื่อ AI Agents และเวิร์กโหลดที่มีขนาดระดับล้านล้านพารามิเตอร์กลายเป็นกระแสหลัก ประสิทธิภาพของระบบจึงไม่ได้ขึ้นอยู่กับเพียงแค่หน่วยประมวลผล แต่ต้องอาศัยการออกแบบส่วนประกอบทั้งหมด ตั้งแต่หน่วยความจำ พื้นที่เก็บข้อมูล เครือข่าย ไปจนถึงซอฟต์แวร์ให้ทำงานร่วมกันเป็นหนึ่งเดียว เพื่อสนับสนุนกลุ่มผู้ให้บริการ Hyperscalers และเหล่านวัตกรในการสร้างโครงสร้างพื้นฐาน AI แบบกึ่งปรับแต่ง (Semi-custom) NVIDIA ได้ประกาศขยายความสามารถของ NVIDIA NVLink Fusion ด้วยเทคโนโลยี NVIDIA NVHBM ซึ่งเป็นหน่วยความจำแบนด์วิดท์สูงยุคถัดไปที่มอบประสิทธิภาพและความประหยัดพลังงานที่เหนือกว่าสำหรับ XPU โดยจะได้รับการตรวจสอบและจัดจำหน่ายผ่านพันธมิตรผู้ผลิตหน่วยความจำชั้นนำ

สถาปัตยกรรม HBM แบบดั้งเดิมมักวางตัวควบคุมหน่วยความจำ (Memory Controller) ไว้บนได (Die) ของ XPU ซึ่งทำให้เสียพื้นที่ซิลิคอนที่ควรใช้เพื่อการประมวลผล แต่สำหรับ NVHBM ที่สร้างขึ้นด้วยเทคโนโลยีเดียวกับ GPU รุ่นอนาคตของ NVIDIA ได้ย้ายการติดตั้งตัวควบคุมหน่วยความจำแบบปรับแต่งเองเข้าไปไว้ในฐานได (Base Die) ของ HBM แทน

การรวมตัวควบคุมหน่วยความจำเข้ากับสแต็ก HBM แบบ 3D ในลักษณะนี้ ส่งผลให้ NVHBM สามารถมอบแบนด์วิดท์หน่วยความจำเพิ่มขึ้นถึง 30% และลดการใช้พลังงานของ HBM ลง 15% พร้อมทั้งคืนพื้นที่บนไดประมวลผลของ XPU ได้มากขึ้นถึง 25% เมื่อเทียบกับมาตรฐาน HBM4E ในปัจจุบัน

NVIDIA กำลังผลักดันให้การใช้งาน NVHBM เป็นมาตรฐานสากลผ่านผู้ให้บริการหน่วยความจำหลายราย เพื่อลดภาระงานด้านวิศวกรรมในการรวมและตรวจสอบคุณสมบัติของหน่วยความจำจากซัพพลายเออร์ที่แตกต่างกัน ช่วยให้ลูกค้า NVLink Fusion สามารถนำชิป AI แบบปรับแต่งเองออกสู่ตลาดได้อย่างรวดเร็วยิ่งขึ้น โดยมี Amazon’s Annapurna Labs เป็นรายแรกที่ร่วมพัฒนาในฐานะส่วนหนึ่งของพันธมิตรด้าน NVLink Fusion

AWS และ NVIDIA สานต่อความร่วมมือ NVLink Fusion

Annapurna Labs ภายใต้ Amazon จะทำงานร่วมกับ NVIDIA ในการประยุกต์ใช้เทคโนโลยี NVHBM และสถาปัตยกรรม Scale-up ของ NVLink เพื่อเพิ่มประสิทธิภาพสูงสุดสำหรับเวิร์กโหลด AI ซึ่งการขยายความร่วมมือนี้ต่อยอดมาจากการสนับสนุน NVLink Fusion ที่ AWS ประกาศไปก่อนหน้านี้ โดย Annapurna Labs จะรองรับ NVLink Fusion ในชิป Trainium รุ่นถัดไป เริ่มต้นที่ Trainium4 ซึ่งจะเปิดทางให้ชิปของ Amazon และ NVIDIA GPU สามารถทำงานร่วมกันได้บนสถาปัตยกรรมระดับแร็ค (Rack-scale) ที่ใช้ร่วมกัน

Nafea Bshara รองประธานของ Annapurna Labs แห่ง Amazon ระบุว่า NVHBM คือแนวทางสถาปัตยกรรมใหม่ที่ช่วยก้าวข้ามขีดจำกัดด้านประสิทธิภาพและการใช้พลังงานของหน่วยความจำแบนด์วิดท์สูง และคาดหวังว่าความร่วมมือทางเทคนิคนี้จะส่งผลดีต่อการออกแบบโครงสร้างพื้นฐานของ AWS ในอนาคตอย่างมีนัยสำคัญ

การบูรณาการในแนวตั้งและการเปิดกว้างในแนวนอน

NVLink Fusion เปิดโอกาสให้พันธมิตรเชื่อมต่อ XPU และ CPU แบบปรับแต่งเองเข้ากับแพลตฟอร์มระดับแร็คของ NVIDIA ได้อย่างสมบูรณ์ โดยสามารถเข้าถึงทรัพยากรต่างๆ เช่น NVLink chiplets, NVLink-C2C, NVLink Switches รวมถึงระบบแร็ค NVIDIA MGX และเครือข่ายพันธมิตรผู้ผลิตระบบและผู้ออกแบบ ASIC ที่กว้างขวาง

เทคโนโลยี NVLink Fusion พร้อมใช้งานในทุกสถาปัตยกรรมระบบระดับแร็คของ NVIDIA ช่วยให้กลุ่ม Hyperscalers และบริษัทด้าน AI สามารถทุ่มเททรัพยากรไปที่การพัฒนานวัตกรรม XPU โดยเฉพาะ ในขณะที่เลือกใช้เทคโนโลยีสแต็กที่ได้รับการพิสูจน์แล้วสำหรับเครือข่ายและซอฟต์แวร์ ซึ่งช่วยลดความเสี่ยงและเร่งการนำโครงสร้างพื้นฐาน AI แบบกึ่งปรับแต่งไปใช้งานจริงให้เร็วขึ้น

เรียนรู้เพิ่มเติมเกี่ยวกับ NVLink และ NVLink Fusion