NVIDIA Vera ชูจุดเด่น CPU ประสิทธิภาพสูงสุดเพื่อ AI Agents

AI agents ในปัจจุบันทำหน้าที่ได้มากกว่าเพียงแค่การสร้างคำตอบ แต่ยังครอบคลุมถึงการค้นหาข้อมูล การสอบถามฐานข้อมูล การเขียนและทดสอบโค้ด รวมถึงการดำเนินการต่างๆ ซึ่งขั้นตอนเหล่านี้จำเป็นต้องพึ่งพาการทำงานของ CPU เป็นหลัก โดยเอเจนต์จะสลับการทำงานระหว่างการให้เหตุผลบน GPU และการประมวลผลบน CPU ตลอดกระบวนการ

เมื่อภาคธุรกิจหันมาใช้งานเอเจนต์มากขึ้น AI factory จึงต้องการ CPU ที่สามารถประมวลผลขั้นตอนเหล่านั้นได้อย่างรวดเร็วและรองรับเอเจนต์จำนวนมากได้พร้อมกันภายใต้ขีดจำกัดของพลังงานที่มีอยู่ ผู้ให้บริการโครงสร้างพื้นฐาน AI จึงจำเป็นต้องเพิ่มศักยภาพการรองรับเอเจนต์โดยไม่ทำให้ระยะเวลารอคอยนานขึ้น และต้องเลือกโครงสร้างพื้นฐานที่เพิ่มประสิทธิภาพการทำงานสูงสุดต่อวัตต์

NVIDIA Vera จึงกลายเป็นคำตอบสำคัญที่มอบทั้งความเร็วและประสิทธิภาพการใช้พลังงานที่ยอดเยี่ยมภายใน CPU เพียงตัวเดียว ช่วยให้ผู้ให้บริการไม่ต้องสลับการใช้งานระหว่างชิ้นส่วน x86 ที่เน้นความเร็วกับชิ้นส่วนที่เน้นความหนาแน่นเพื่อรักษาสมดุลอีกต่อไป

จากการเปรียบเทียบในศูนย์ข้อมูลขนาด 100 เมกะวัตต์ NVIDIA พบว่า CPU Vera ทำงานได้ดีกว่า CPU x86 ทั้งในด้านความเร็วและการประหยัดพลังงาน โดยมอบความเร็วระดับชั้นนำพร้อมรองรับจำนวนเอเจนต์ต่อวัตต์มากกว่าถึง 1.6 เท่าเมื่อเทียบกับ CPU x86 ที่เร็วที่สุด และยังทำความเร็วได้มากกว่า 2 เท่าเมื่อเทียบกับ CPU x86 รุ่นที่ประหยัดพลังงานที่สุด

ปัจจุบันพันธมิตรหลายรายได้เริ่มนำ Vera ไปใช้งานและเห็นผลลัพธ์ที่ยอดเยี่ยมในการทดสอบรูปแบบการใช้งานจริง ดังนี้:

• Perplexity: รันงานเขียนโค้ดของเอเจนต์ได้เร็วขึ้น 1.5 เท่า และเตรียมติดตั้งในระบบใช้งานจริงเร็วๆ นี้
• DeepInfra: มอบความเร็วสูงสุด 2.2 เท่าของโปรเซสเซอร์ x86 ที่ดีที่สุดในการจัดระเบียบเอเจนต์ (agentic orchestration)
• ClickHouse: ระบบสามารถขยายการทำงานได้เกือบเป็นเส้นตรง (near-linearly) บน 176 คอร์ และขึ้นสู่อันดับสูงสุดของตาราง ClickBench
• DuckLabs: ทำประสิทธิภาพ TPC-H SF1000 ได้ประมาณ 1.5 เท่าของเกณฑ์มาตรฐาน Intel Xeon 6
• Daytona: เปิดใช้งาน sandbox ของเอเจนต์ 1,000 ตัวได้ในเวลาเพียง 10.8 วินาที เทียบกับ 88.4 วินาทีบนระบบ x86
• Modal: ทำอัตราการประมวลผล sandbox ต่อคอร์ได้สูงถึง 2 เท่าเมื่อเทียบกับฮาร์ดแวร์ x86 ภายใต้ภาระงานหนัก

เรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA Vera CPU