NVIDIA Vera: นิยามใหม่ของ CPU เพื่อยุค Agentic AI เมื่อความเร็วระดับ ‘โมโนเทรด’ คือตัวตัดสิน

Max single-threaded CPU at scale คือหมวดหมู่ใหม่ของ CPU ที่สร้างขึ้นเพื่อยุคของ agentic AI โดยเฉพาะ

ในช่วงการสร้างและใช้งานระบบเอเจนต์ CPU จะอยู่ในเส้นทางวิกฤต (critical path) สำหรับการใช้เหตุผล (reasoning) ระยะเวลาการตอบสนอง และการเรียนรู้ โดย CPU เป็นโปรเซสเซอร์หลักที่ทำหน้าที่รันงานตามคำสั่งของโมเดล AI ไม่ว่าจะเป็นการเรียกใช้เครื่องมือ (tool calling) การรันโค้ด การประมวลผลข้อมูล KV-cache ไปจนถึงการวิเคราะห์ผลลัพธ์

สำหรับเอเจนต์ในโรงงาน AI (AI factories) ความเร็วคือหัวใจสำคัญ

ยิ่ง CPU สามารถรันเครื่องมือได้เร็วเท่าไร เอเจนต์ก็จะสามารถปิดงานที่ได้รับมอบหมายได้เร็วขึ้นเท่านั้น

ในบริบทของโรงงาน AI การใช้ประโยชน์จาก GPU ถือเป็นทรัพยากรที่มีค่าที่สุด ดังนั้นทุกวินาทีที่ต้องรอ CPU ทำงานให้เสร็จจึงหมายถึงรายได้ที่สูญเสียไป หรือแย่กว่านั้นคือประสิทธิภาพของ GPU จะลดลงเพราะต้องรอกระบวนการจากฝั่ง CPU โรงงาน AI จึงต้องการ CPU ที่มีประสิทธิภาพการทำงานแบบซิงเกิลเทรดสูงสุด (max single-threaded performance) เพื่อเพิ่มรายได้และประสิทธิภาพของเอเจนต์ให้ถึงขีดสุด

เมื่อ CPU ศูนย์ข้อมูลในปัจจุบันไม่ได้ถูกออกแบบมาเพื่อความเร็วระดับสเกล

ในขณะที่เรามี CPU ความเร็วสูงสำหรับ PC และเวิร์กสเตชัน แต่ CPU สำหรับศูนย์ข้อมูลกลับวิวัฒนาการไปในทิศทางที่สวนทางกับประสิทธิภาพแบบซิงเกิลเทรด เนื่องจากการเติบโตของคลาวด์ผลักดันให้ผู้ผลิตหันไปเน้นการสร้าง CPU ที่มีจำนวนคอร์สูงๆ เพื่อลดต้นทุนต่อหน่วย โดยยอมแลกกับประสิทธิภาพของแต่ละคอร์

การมุ่งเน้นเพิ่มจำนวนคอร์ต่อชิป (rentable core) เพื่อความคุ้มค่า ทำให้พื้นที่ซิลิคอนที่ควรจะถูกใช้เพื่อทำให้แต่ละคอร์ทำงานได้เร็วขึ้น เช่น โครงสร้างหน่วยความจำประสิทธิภาพสูง ถูกลดทอนลง นอกจากนี้ การขยับไปใช้สถาปัตยกรรมแบบ chiplet แม้จะช่วยลดต้นทุน แต่ก็ทำให้เกิด "ภาษี chiplet" (chiplet tax) ซึ่งขัดขวางไม่ให้คอร์ของ CPU แต่ละตัวเข้าถึงแบนด์วิดท์หน่วยความจำได้อย่างเต็มประสิทธิภาพ

เอเจนต์ AI จึงต้องการ CPU ที่ถือกำเนิดมาเพื่อประสิทธิภาพซิงเกิลเทรดสูงสุดในระดับสเกล

Max single-threaded CPU at scale จะช่วยให้ทุกขั้นตอนของเอเจนต์รวดเร็วแม้ระบบจะทำงานเต็มโหลด ทุกคอร์จะทำงานเสร็จสิ้นด้วยประสิทธิภาพสูงสุดโดยไม่มีคอร์อื่นมาหน่วงให้ช้าลง โดยถูกออกแบบมาให้มอบคุณสมบัติเด่น ดังนี้:

• ประสิทธิภาพต่อคอร์ที่แข็งแกร่งแม้ในสภาวะโหลดหนัก
• แบนด์วิดท์หน่วยความจำต่อคอร์ที่เพียงพอเพื่อให้รับส่งข้อมูลได้ต่อเนื่อง
• ความหน่วง (latency) ที่คาดการณ์ได้แน่นอน

ด้วยการทำงานที่แต่ละคอร์สามารถประมวลผลได้อิสระ มอบปริมาณงาน (throughput) ที่ยอดเยี่ยม และให้ประสิทธิภาพต่อคอร์ที่รวดเร็วที่สุดเท่าที่เป็นไปได้

NVIDIA Vera คือตัวอย่างที่ชัดเจนที่สุดของการออกแบบ CPU คลาสใหม่นี้

Max Single-Threaded CPU at Scale กับการขับเคลื่อน Agentic Loop

เอเจนต์ AI ไม่ได้หยุดทำงานหลังจบคำสั่งเดียว แต่มันทำงานเป็นลูป (loop) เริ่มจากโมเดลใช้เหตุผลเพื่อกำหนดขั้นตอนถัดไป จากนั้น CPU จะรันงานรอบๆ โมเดลและส่งผลลัพธ์กลับไป เพื่อให้โมเดลตัดสินใจว่าจะทำอย่างไรต่อ กระบวนการนี้จะวนซ้ำไปเรื่อยๆ

รูปแบบดังกล่าวสร้างความต้องการที่ CPU แบบดั้งเดิมไม่สามารถตอบโจทย์ได้ (not optimized) เนื่องจากงานทั่วไปมักเกิดขึ้นเป็นพักๆ (intermittent) ตามการโต้ตอบของมนุษย์ แต่งานของเอเจนต์นั้นมีความต่อเนื่องและขนานกัน (persistent and parallel) โดยมีฝูงเอเจนต์รันงานตลอดเวลา และแต่ละขั้นตอนต้องอาศัยผลลัพธ์จากขั้นตอนก่อนหน้าอย่างแม่นยำ

แม้การมีคอร์มากขึ้นจะหมายถึงการรองรับจำนวนเอเจนต์ได้มากขึ้น แต่การเพิ่มคอร์เพียงอย่างเดียวไม่ได้ช่วยให้แต่ละขั้นตอนในลูปของเอเจนต์ตัวเดียวเร็วขึ้นเลย ในบางกรณี CPU ที่เน้นปริมาณคอร์มากเกินไปอาจทำให้แต่ละคอร์ช้าลงจากการแย่งชิงทรัพยากรด้วยซ้ำ

ความเร็วต่อคอร์จึงเป็นตัวกำหนดว่าลูปจะก้าวไปข้างหน้าได้เร็วแค่ไหน ปริมาณงานจากคอร์เสริมอาจมีประโยชน์ แต่ประสิทธิภาพซังก์ชันเทรดคือหัวใจที่แท้จริง

ในท้ายที่สุด CPU สำหรับเอเจนต์ที่ดีที่สุดต้องมีประสิทธิภาพซิงเกิลเทรดต่อคอร์สูงที่สุด โดยไม่มีการลดหย่อนแม้คอร์อื่นจะทำงานหนัก ขณะที่โลกนับเวลาเป็นวินาที แต่เอเจนต์นับเวลาเป็นนาโนวินาที ซึ่ง NVIDIA Vera ถูกสร้างมาเพื่อรองรับความเร็วในระดับนี้

NVIDIA Vera: ขุมพลัง Max Single-Threaded CPU สำหรับเอเจนต์

NVIDIA Vera ได้รับการออกแบบมาตั้งแต่ต้นเพื่อ Agentic Loop โดยเฉพาะ ทั้งการเรียกใช้เครื่องมือ การประมวลผลข้อมูล และการตรวจสอบผลลัพธ์

CPU NVIDIA Vera

หัวใจสำคัญของ Vera คือ Olympus คอร์ CPU ที่ NVIDIA ออกแบบเอง ซึ่งมอบคุณสมบัติการประมวลผลคำสั่งต่อรอบสัญญาณ (instructions per cycle) สูงกว่า NVIDIA Grace ถึง 50% เนื่องจากงานของเอเจนต์ส่วนใหญ่เป็นแบบลำดับ (sequential) คอร์ที่เร็วขึ้นจึงทำให้ลูปกระโดดไปข้างหน้าได้ไวขึ้นอย่างมาก

Vera มาพร้อมแบนด์วิดท์หน่วยความจำ LPDDR5X สูงถึง 1.2TB/s โดยใช้พลังงานเพียงไม่ถึง 40 วัตต์ พร้อมโครงสร้าง monolithic compute die ที่ช่วยให้รับส่งข้อมูลต่อเนื่อง และมีแบนด์วิดท์ระหว่างคอร์ (core-to-core bandwidth) ที่ 3.4TB/s ซึ่งสูงกว่า CPU ศูนย์ข้อมูลทั่วไปถึง 3 เท่า ช่วยให้ทั้ง 88 คอร์ใช้งานหน่วยความจำได้เต็มที่โดยไม่มีคอขวด

ผลลัพธ์ที่ได้คือ Vera มอบประสิทธิภาพต่อคอร์ต่อเนื่องสูงกว่าสถาปัตยกรรม x86 ถึง 1.8 เท่าในเวิร์กโหลดที่จำลองการทำงานของเอเจนต์

ประสิทธิภาพที่เพิ่มขึ้นนี้ส่งผลโดยตรงต่อการทำงานของโรงงาน AI:

• Perplexity พบว่าในการรันเวิร์กโฟลว์เขียนโค้ดจริง Vera ทำงานเสร็จเร็วกว่า x86 ถึง 1.5 เท่า และเริ่มต้นใช้งาน sandboxes ได้เร็วขึ้นสูงสุด 1.9 เท่า
• งานด้านข้อมูล การวิเคราะห์ SQL ร่วมกับ Starburst พบว่าเร็วขึ้นถึง 3 เท่า และมีความหน่วงต่ำลง 6 เท่าเมื่อใช้ร่วมกับ Redpanda ในการสตรีมข้อมูล

Vera ตัวเดียวสามารถจัดการงานได้ครบวงจร ไม่ว่าจะเป็นการรันเครื่องมือ, ประมวลผลข้อมูล, บริการคำขอ หรือแม้แต่การฝึกฝนโมเดลด้วย reinforcement learning และเนื่องจาก Vera เป็นรากฐานเดียวกับ NVIDIA Vera Rubin และโปรเซสเซอร์จัดเก็บข้อมูล BlueField-4 STX ทำให้ทั้งโรงงาน AI สามารถทำงานบนสถาปัตยกรรมและชุดเครื่องมือ (toolchain) เดียวกันทั้งหมด

นอกจากนี้ NVIDIA ยังมีแผนพัฒนาต่อเนื่องด้วย CPU Rosa ที่มาพร้อมคอร์ Rigel (Arm v9.2) ซึ่งจะให้ประสิทธิภาพต่อคอร์สูงกว่า Olympus ขึ้นไปอีก โดยมีการปรับปรุงทั้งการส่งคำสั่ง แคช L2 ที่ใหญ่ขึ้น และระบบจัดการหน่วยความจำที่มีประสิทธิภาพกว่าเดิม

สร้างขึ้นเพื่อความเร็วของเอเจนต์

ในอนาคตที่มีเอเจนต์นับพันล้านตัว ทุกตัวต้องการ CPU เพื่อประมวลผลและยืนยันผลลัพธ์ ลูปที่เร็วขึ้นหมายถึง GPU จะมีเวลาสร้างรายได้มากขึ้นและเสียเวลารอน้อยลง

NVIDIA Vera คือ CPU ที่เกิดมาเพื่อนำทางไปสู่อนาคตนั้น

เรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA Vera CPU