NVIDIA เปิดตัวสถาปัตยกรรม Vera Rubin ยกระดับ AI Factory ทั่วโลก

เมื่อ AI factory เติบโตจากระดับเมกะวัตต์สู่จิกะวัตต์ การสร้างโรงงานเหล่านี้จึงต้องการมากกว่าเพียงการประมวลผลขั้นสูง มาตรฐานเปิดกำลังกลายเป็นกุญแจสำคัญที่ช่วยให้อุตสาหกรรมขยายโครงสร้างพื้นฐาน AI ได้รวดเร็ว มีประสิทธิภาพ และน่าเชื่อถือยิ่งขึ้น

ที่งาน Open Compute Project (OCP) Global Summit ณ เมืองซานโฮเซ NVIDIA ได้ประกาศความร่วมมือและการสนับสนุนใหม่ๆ เพื่อสร้างรากฐานร่วมกันสำหรับโครงสร้างพื้นฐาน AI ยุคถัดไป โดยครอบคลุมทั้งตัว AI factory โครงข่ายไฟฟ้า และสถาปัตยกรรมระดับแร็คที่เป็นหัวใจของการประมวลผลแบบเร่งความเร็ว

NVIDIA ได้ส่งมอบการออกแบบแร็คและถาดประมวลผลสำคัญของ NVIDIA Vera Rubin ให้กับ OCP ผ่านสถาปัตยกรรมเปิด NVIDIA MGX ซึ่งช่วยให้ผู้สร้างระบบมีมาตรฐานร่วมกันในการพัฒนา AI factory ยุคถัดไป

NVIDIA และพันธมิตรประกาศความก้าวหน้าด้านสถาปัตยกรรมเปิด

ภายในงาน OCP ทาง NVIDIA และพันธมิตรได้เปิดเผยข้อมูลสำคัญหลายประการ:

• NVIDIA และผู้ให้บริการ Hyperscaler เผยแพร่มาตรฐานเปิดสำหรับการออกแบบ AI factory และความยืดหยุ่นของโครงข่ายไฟฟ้า
• เปิดตัวส่วนประกอบซอฟต์แวร์โอเพนซอร์สใหม่สำหรับ NVIDIA DSX AI Factory
• Meta และ NVIDIA พัฒนาเครือข่าย AI แบบเปิดด้วยนวัตกรรม NVIDIA Spectrum-X Ethernet SuperNIC และ Spectrum-6
• Visionbay แนะนำการออกแบบ AI factory แบบ 800V DC สำหรับยุค Vera Rubin
• NVIDIA และ Cisco ประกาศมาตรฐาน Ultra-Dense Small Form Factor Pluggable (USFP) โมดูลเครือข่าย 400Gb/s รุ่นแรกของอุตสาหกรรม
• NVIDIA และ Google ประกาศรองรับ Falcon Transport บน NVIDIA ConnectX-10 SuperNIC และ BlueField DPU ในอนาคต

Ian Buck รองประธานฝ่าย Hyperscale and High-Performance Computing ของ NVIDIA ระบุว่าโครงสร้างพื้นฐานแบบเปิดกำลังเป็นส่วนประกอบสำคัญในการขยายขนาด AI factory ทั่วโลก ข่าวที่งาน OCP นี้เน้นย้ำว่าการออกแบบร่วมกันของ NVIDIA และมาตรฐานเปิด จะช่วยเร่งการติดตั้ง เพิ่มประสิทธิภาพพลังงาน และขับเคลื่อนประสิทธิภาพของ Tokens-per-Watt

AI Factory ของ Vera Rubin ก้าวหน้าด้วยการสนับสนุนแร็ค MGX ที่ OCP 🔗

NVIDIA ร่วมกับผู้นำอุตสาหกรรมสนับสนุนการออกแบบอ้างอิง AI Data Center รุ่นที่ 3 ของ MGX ผ่านโครงการ Open DC ของ OCP เมื่อรวมกับเทคโนโลยีระบายความร้อนด้วยของเหลวแบบเปิด เช่น MQD และ MQDB จะช่วยเปลี่ยนการออกแบบที่ผ่านการพิสูจน์แล้วให้เป็นมาตรฐานที่ทุกคนนำไปขยายขนาดได้

สำหรับ AI factory ของ NVIDIA Vera Rubin ข้อกำหนด MGX 1.2 ได้ขยายสถาปัตยกรรมเปิดด้วยระบบระบายความร้อนด้วยของเหลวแบบ Blind-mate ระดับแร็ค และบัสบาร์ 5,000A ที่ออกแบบมาสำหรับระบบพลังงานสูง รองรับการติดตั้งแร็คได้สูงสุดถึง 250kW ในขณะที่ยังช่วยให้การซ่อมบำรุงและติดตั้งทำได้ง่ายขึ้น

ข้อกำหนดการออกแบบแร็ค Vera CPU ยังขยายสถาปัตยกรรมเพื่อรองรับยุค Agentic AI โดยเฉพาะ ในขณะที่ Vera Rubin NVL72 เน้นการฝึกฝนและการอนุมานขนาดใหญ่ แร็ค NVIDIA Vera CPU ถูกออกแบบมาเพื่อจัดการขั้นตอนการทำงาน (Orchestration) และช่วยให้ AI Agent สามารถโต้ตอบกับแอปพลิเคชันและข้อมูลได้แบบเรียลไทม์

NVIDIA เปิดตัวส่วนประกอบซอฟต์แวร์โอเพนซอร์สใหม่สำหรับ DSX AI Factory 🔗

แพลตฟอร์ม NVIDIA DSX AI Factory รวมการประมวลผล เครือข่าย และซอฟต์แวร์เข้าด้วยกันเพื่อให้ทำงานเป็นระบบเดียว โดยมี DSX OS เป็นชั้นปฏิบัติการแบบเปิด ล่าสุด NVIDIA ได้ขยายส่วนประกอบโอเพนซอร์สเพื่อเพิ่มประสิทธิภาพการจัดการแร็คและเครือข่าย:

• NVIDIA Config Manager: ปรับแต่งการกำหนดค่าสวิตช์โดยอัตโนมัติ ลดการจัดการด้วยตนเอง
• NVIDIA Cluster Readiness Engine: ทดสอบความทนทานของ GPU Cluster ก่อนเริ่มฝึกฝนเพื่อลดความเสี่ยงการล่มของงาน
• NVIDIA Rack Management Service: ปรับปรุงการจัดการเฟิร์มแวร์ในระดับ AI factory
• Cluster API Provider for NVIDIA Infrastructure Controller: เร่งการติดตั้ง Bare-metal ให้พร้อมใช้งานภายในไม่กี่ชั่วโมง

NVIDIA และผู้ให้บริการ Hyperscaler เผยแพร่มาตรฐานเปิดสำหรับ AI Factory ยุคถัดไป 🔗

NVIDIA ร่วมกับ AMD, Google และ Meta เผยแพร่ Open Data Center Specification v0.7 ซึ่งเป็นพิมพ์เขียวสำหรับการออกแบบ AI factory ตั้งแต่ระบบพลังงานไปจนถึงการระบายความร้อน เพื่อให้ผู้ผลิตทั่วโลกมีมาตรฐานการสร้างที่สอดคล้องกัน

นอกจากนี้ยังมี OCP Grid Resilience Specification ที่กำหนดให้โครงสร้างพื้นฐาน AI ต้องตอบสนองต่อเหตุขัดข้องของโครงข่ายไฟฟ้าได้โดยอัตโนมัติ และกลับมาทำงานเต็มพิกัดได้ภายในเวลาไม่ถึง 2 วินาที ช่วยให้การเปลี่ยนผ่านสู่ยุค Vera Rubin มีเส้นทางที่ชัดเจนจากมาตรฐานชุมชนไปสู่ระบบที่ใช้งานได้จริง

Visionbay.ai ออกแบบ AI Factory แบบ 800VDC สำหรับยุค Vera Rubin 🔗

Visionbay เปิดตัวแผนงานสำหรับ K-1 แพลตฟอร์ม AI factory ที่ใช้ สถาปัตยกรรม 800 VDC เพื่อรองรับ NVIDIA Vera Rubin โดยการนำสถาปัตยกรรมนี้มาใช้จะช่วยลดความซับซ้อนของการส่งพลังงานเมื่อเทียบกับการกระจายไฟแรงดันต่ำแบบเดิม ช่วยลดปริมาณสายเคเบิลและอุปกรณ์แปลงไฟในแร็คที่มีความหนาแน่นสูง

Meta และ NVIDIA พัฒนาเครือข่าย AI ด้วย Spectrum-6 และเทคโนโลยี Multiplane 🔗

Meta นำสวิตช์ Ethernet NVIDIA Spectrum-6 ความเร็ว 102.4Tb/s มาใช้สร้าง AI factory ขนาดใหญ่ โดยสวิตช์รุ่นนี้ให้แบนด์วิดท์เป็นสองเท่าของรุ่นก่อน และทำงานบนระบบปฏิบัติการโอเพนซอร์ส FBOSS ของ Meta เพื่อรองรับการเชื่อมต่อ GPU มากกว่า 100,000 ตัว สำหรับการฝึกโมเดล Mixture-of-Experts ขนาดใหญ่

เทคโนโลยี Spectrum-X Multiplane ช่วยกระจายการจราจรไปยังระนาบเครือข่ายที่เป็นอิสระต่อกันสูงสุด 8 ระนาบ หากส่วนประกอบใดเสียหาย ระบบจะเปลี่ยนเส้นทางไปยังระนาบที่เหลือทันที ช่วยให้ GPU ทำงานต่อเนื่องได้โดยไม่หยุดชะงัก แม้แบนด์วิดท์จะลดลงก็ตาม

ด้วย USFP ทาง NVIDIA และ Cisco ปรับโฉม Pluggable Optics ใหม่เพื่อขนาดของ AI Factory 🔗

NVIDIA และ Cisco ประกาศแผนพัฒนา USFP รูปแบบโมดูลตัวรับส่งสัญญาณออปติคัลใหม่ที่รองรับเครือข่ายความเร็ว 400Gb/s ต่อเลน โดยให้ความหนาแน่นของแบนด์วิดท์เป็น 4 เท่าของรุ่นเดิม ช่วยให้เชื่อมต่อทรัพยากรการประมวลผลได้มากขึ้นโดยไม่เพิ่มความซับซ้อน และมีประสิทธิภาพพลังงานสูงขึ้น 1.3 เท่า

Google Falcon Transport รองรับ NVIDIA ConnectX-10 สำหรับเครือข่าย AI ที่ทำงานร่วมกันได้ 🔗

NVIDIA และ Google ประกาศรองรับโปรโตคอล Falcon Transport บน NVIDIA ConnectX-10 และ BlueField DPU เพื่อเพิ่มความเชื่อถือได้ในการส่งข้อมูลผ่าน Ethernet แม้อยู่ในสภาวะการจราจรหนาแน่น โดยจะช่วยปรับสมดุลโหลดและกู้คืนข้อมูลที่สูญหายด้วยฮาร์ดแวร์ ทำให้แอปพลิเคชันรักษาประสิทธิภาพได้สม่ำเสมอในเครือข่ายขนาดใหญ่