NVIDIA เปิดตัว Spectrum-6 สวิตช์ Ethernet ทรงพลัง ขับเคลื่อนโรงงาน AI ระดับ Gigascale บนแพลตฟอร์ม Vera Rubin

NVIDIA เปิดตัว Spectrum-6 สวิตช์ Ethernet ทรงพลัง ขับเคลื่อนโรงงาน AI ระดับ Gigascale บนแพลตฟอร์ม Vera Rubin

วงการ AI ได้ก้าวเข้าสู่ยุค Gigascale อย่างเต็มตัว เมื่อโรงงาน AI ที่ล้ำสมัยที่สุดในโลกเริ่มติดตั้ง GPU และ CPU นับแสนตัวเพื่อฝึกฝนโมเดลระดับสูง ขับเคลื่อน Agentic AI และสร้างปัญญาประดิษฐ์ในสเกลที่ไม่เคยมีมาก่อน ซึ่งในระดับนี้ ระบบเครือข่ายถือเป็นตัวแปรสำคัญที่ช่วยทวีคูณพลังการคำนวณและขับเคลื่อนการสร้างโทเคน (Token)

NVIDIA Spectrum-6 คือหมุดหมายสำคัญของระบบเครือข่าย โดยเป็นสวิตช์ Ethernet ที่มีความเร็วสูงถึง 102.4 Terabit-per-second (Tbps) ให้ความจุมากกว่ารุ่นก่อนถึง 2 เท่า โดยเป็นส่วนหนึ่งของแพลตฟอร์ม NVIDIA Vera Rubin ที่กำลังถูกส่งไปยังโรงงาน AI ระดับ Gigascale ทั่วโลกเพื่อยกระดับโครงสร้างพื้นฐานให้ล้ำสมัยยิ่งขึ้น

Spectrum-6 เป็นหัวใจหลักของ NVIDIA Spectrum-X Ethernet platform รุ่นถัดไป โดยมอบแบนด์วิดท์ ขนาด และความอัจฉริยะที่จำเป็นต่อการดำเนินงานของโรงงาน AI ในฐานะระบบการคำนวณแบบ End-to-end เพียงหนึ่งเดียวที่ตอบโจทย์ความต้องการในปัจจุบัน

ผู้สร้าง AI ชั้นนำเริ่มเคลื่อนไหว

กลุ่มผู้สร้างโครงสร้างพื้นฐาน AI ระดับโลกอย่าง CoreWeave, Microsoft, Nebius, SpaceXAI และ Tesla จะเป็นกลุ่มแรกที่นำ Spectrum-6 มาใช้เพื่อเร่งประสิทธิภาพโรงงาน AI ของตน ซึ่งช่วยให้ผู้ให้บริการคลาวด์สามารถบริหารจัดการทรัพยากรประสิทธิภาพสูงให้เป็นหนึ่งเดียว ทำให้ลูกค้าฝึกโมเดลและปรับใช้บริการ Inference ได้รวดเร็วกว่าเดิม

Min Jun ผู้อำนวยการด้านผลิตภัณฑ์เครือข่ายของ CoreWeave ระบุว่าการนำ NVIDIA Spectrum-6 และโครงสร้างพื้นฐานระดับ Spectrum-X แบบระบายความร้อนด้วยของเหลวมาใช้ จะช่วยให้บริษัทสามารถส่งมอบแบนด์วิดท์และความยืดหยุ่นที่ลูกค้าต้องการในการฝึกโมเดลระดับแนวหน้าได้อย่างรวดเร็ว

ขณะที่ Laurelle Roseman จาก Nebius ย้ำว่าในระดับ Gigascale ประสิทธิภาพขึ้นอยู่กับการประสานงานของ GPU ทุกตัวอย่างสอดคล้อง ไม่ให้เกิดจุดที่ล่าช้าจนงานทั้งหมดหยุดชะงัก ซึ่ง NVIDIA Spectrum-6 คือโซลูชันที่เข้ามาตอบโจทย์นี้โดยเฉพาะ เพื่อรักษาความเร็วและความยืดหยุ่นแม้เวิร์กโหลดจะขยายตัวเพิ่มขึ้นอย่างมหาศาล

สำหรับผู้บุกเบิก AI ที่สร้างโครงสร้างพื้นฐานเอง Spectrum-6 ช่วยให้ GPU จำนวนมากขึ้นทำงานร่วมกันได้ดีขึ้น เพิ่มการใช้ประโยชน์จากทรัพยากรในช่วงการดำเนินงานแบบกลุ่ม และเพิ่มความยืดหยุ่นสำหรับงานที่ต้องรันต่อเนื่องเป็นเวลานาน ส่งผลให้เข้าถึงผลลัพธ์ได้เร็วขึ้นและคุ้มค่าทางเศรษฐกิจในระดับที่น่าทึ่ง

ประสิทธิภาพ AI คือโจทย์ของระบบเครือข่าย

ในปัจจุบันเพียงแค่ประสิทธิภาพของ GPU อย่างเดียวไม่เพียงพอต่อการวัดผลโรงงาน AI อีกต่อไป เนื่องจากการฝึกฝนขนาดใหญ่และงาน Inference ต้องพึ่งพาการแลกเปลี่ยนข้อมูลระหว่างตัวเร่งความเร็วหลายพันตัวอยู่ตลอดเวลา ทำให้เกิดปริมาณการรับส่งข้อมูลทิศตะวันออก-ตะวันตก (East-west traffic) ที่หนาแน่น

ระบบ Ethernet ทั่วไปถูกออกแบบมาสำหรับแอปพลิเคชันองค์กรที่เป็นการรับส่งข้อมูลทิศเหนือ-ใต้ (North-south traffic) ซึ่งไม่ได้รองรับรูปแบบการสื่อสารอันซับซ้อนของ AI ระดับ Gigascale แพลตฟอร์ม Spectrum-X จึงถูกออกแบบมาเพื่อแก้ปัญหานี้โดยเฉพาะ เพื่อเปลี่ยน Ethernet ให้เป็น Scale-out Fabric ประสิทธิภาพสูงที่ช่วยให้ GPU ได้รับข้อมูลต่อเนื่องไม่ขาดช่วง

วิวัฒนาการของ Spectrum-X Ethernet รุ่นใหม่

ชิปสวิตช์ Spectrum-6 ทำงานร่วมกับ NVIDIA ConnectX-9 SuperNIC เพื่อสร้างระบบ Spectrum-X รุ่นถัดไป โดยเป็นส่วนหนึ่งของแพลตฟอร์ม NVIDIA Vera Rubin ที่รวมเอา Vera CPU, Rubin GPU, NVLink 6 Switch, BlueField-4 DPU และอุปกรณ์อื่นๆ เข้าด้วยกันอย่างเป็นระบบ

Spectrum-6 รองรับทั้งการเชื่อมต่อแบบออปติก (Pluggable) และแบบรวมแพ็กเกจ (Co-packaged) รวมถึงรองรับการระบายความร้อนด้วยของเหลว ซึ่งช่วยเพิ่มประสิทธิภาพการใช้พลังงานให้กับเครือข่ายและโรงงาน AI ทั้งระบบ ต่างจาก Ethernet สำเร็จรูปทั่วไปที่ไม่ได้ปรับแต่งมาเพื่อใช้งานในระดับสูงเช่นนี้

นอกจากนี้ เทคโนโลยี Spectrum-X ยังมีความฉลาดในการปรับสมดุลปริมาณการรับส่งข้อมูลผ่านเส้นทางที่เหมาะสมที่สุด กู้คืนข้อมูลได้อย่างแม่นยำ และรองรับระบบปฏิบัติการเครือข่ายแบบเปิด ช่วยให้ผู้สร้าง AI มีความยืดหยุ่นโดยไม่ลดทอนประสิทธิภาพการทำงาน

แนวทางของ NVIDIA คือการรวมทุกส่วนในแนวดิ่งแต่เปิดกว้างในแนวนอน เพื่อให้ลูกค้าได้รับแพลตฟอร์มโรงงาน AI ที่สมบูรณ์แบบ มอบเวลาฝึกฝนที่สั้นที่สุดและมีต้นทุนต่อโทเคนที่ต่ำที่สุด โดย Spectrum-X ให้ประสิทธิภาพสูงกว่า Ethernet ทั่วไปถึง 1.6 เท่า และรักษาความเสถียรได้สูงถึง 95% แม้ในการเชื่อมต่อ GPU มากกว่า 100,000 ตัว

ด้วยโครงสร้าง Multiplane ของ Spectrum-X ยังช่วยลดจำนวนสวิตช์ในศูนย์ข้อมูลลงได้ 1.7 เท่า และเมื่อทำงานร่วมกับระบบ Photonics จะช่วยเพิ่มประสิทธิภาพการใช้พลังงานได้ถึง 5 เท่า พร้อมลดโอกาสเกิดความล่าช้าหรือเหตุขัดข้องลงได้ถึง 10 เท่า ซึ่งเหนือกว่าการปรับแต่งเพียงบางส่วนในระดับองค์ประกอบทั่วไป

เรียนรู้เพิ่มเติมเกี่ยวกับแพลตฟอร์ม NVIDIA Spectrum-X Ethernet

Source: NVIDIA Blog
ดูแลงานแปลและเรียบเรียงโดย SirilukP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร