NVIDIA เปิดตัว Minerva แพลตฟอร์ม AIOps ยกระดับประสิทธิภาพโรงงาน AI

NVIDIA Minerva ที่เปิดตัวในวันนี้ คือแพลตฟอร์ม AIOps ที่สร้างขึ้นเพื่อช่วยให้ทีมงานตรวจพบปัญหาได้รวดเร็วขึ้นและรักษาประสิทธิภาพการทำงานของโรงงาน AI โดยการรวบรวมข้อมูล Telemetry จากโครงสร้างพื้นฐานและเวิร์กโหลด AI จากนั้นจึงใช้โมเดล AI ที่สร้างขึ้นเฉพาะทางเพื่อเปลี่ยนข้อมูลเหล่านั้นให้เป็นข้อมูลเชิงลึกที่นำไปปฏิบัติได้ทันท่วงที

โรงงาน AI ถือเป็นหนึ่งในการดำเนินงานที่ซับซ้อนที่สุดในโลก โดยมี GPU จำนวนมหาศาลทำงานผ่านเครือข่ายความเร็วสูงเพื่อฝึกสอนโมเดลและให้บริการแอปพลิเคชัน AI ในระดับนั้น

ในระบบขนาดใหญ่เช่นนี้ ส่วนประกอบที่เสื่อมสภาพเพียงชิ้นเดียวอาจทำให้งานทั้งหมดช้าลงได้ อีกทั้งสัญญาณเตือนมักถูกมองข้ามได้ง่าย เช่น GPU ที่มีอุณหภูมิสูงผิดปกติ หรือไดรฟ์ NVMe ที่สูญเสียประสิทธิภาพเมื่อต้องรับภาระงานหนัก แพลตฟอร์มนี้จึงมุ่งเน้นไปที่การเพิ่ม Yield ของโรงงาน AI ซึ่งเป็นตัววัดงานที่มีประโยชน์ที่โครงสร้างพื้นฐานผลิตได้ผ่านชั่วโมงการทำงานของ GPU, Goodput, ระยะเวลาการทำงานของคลัสเตอร์ และการผลิตโทเคน

มอบมุมมองแบบไดนามิกของโรงงาน AI

เครื่องมือตรวจสอบแบบดั้งเดิมมักจะแบ่งข้อมูลศูนย์ข้อมูลออกเป็นมุมมองแยกจากกัน ทั้งทีมเครือข่าย ทีมประมวลผล ทีมความเสถียรของไซต์งาน และทีม Machine Learning ต่างมองเห็นเพียงส่วนเดียวของการดำเนินงาน แต่ Minerva สามารถเชื่อมต่อสัญญาณเหล่านั้นเข้าด้วยกัน ทั้งจาก NVIDIA GPU, เครือข่าย, อุปกรณ์จัดเก็บข้อมูล, ตัวจัดตารางเวลา (Schedulers) และเวิร์กโหลด

ด้วยสัญญาณเหล่านี้ Minerva จะสร้าง Knowledge Graph แบบไดนามิกที่จำลองแผนผังโครงสร้างพื้นฐานในเชิงตรรกะ ประกอบด้วย GPU, SuperNIC, สวิตช์ สายเคเบิล รวมถึงงานที่กำลังรันอยู่ บริบทนี้ช่วยให้ผู้ดูแลระบบสามารถสืบหาต้นตอของงานฝึกสอนที่ล่าช้าไปยังส่วนประกอบที่ส่งผลกระทบได้อย่างแม่นยำ แม้จะเป็นโรงงานที่มี GPU หลายแสนตัวก็ตาม

ระบบจะวิเคราะห์ข้อมูลหลายพันล้านจุดต่อชั่วโมงโดยใช้ Supervised Machine Learning และ Unsupervised Machine Learning เพื่อเรียนรู้พฤติกรรมปกติ ตรวจจับความผิดปกติที่คาดไม่ถึง และคาดการณ์ความล้มเหลวที่กำลังจะเกิดขึ้น โดยจะเชื่อมโยงเหตุการณ์ที่เกี่ยวข้องตามโทโพโลยีของโรงงาน ทำให้สามารถรวมเหตุการณ์ที่เกิดขึ้นจำนวนมาก (Event Storm) ให้กลายเป็นรายงานจุดเดียวที่ระบุสาเหตุที่แท้จริงได้ทันที

Minerva ยังมาพร้อมผู้ช่วย AI ในตัวและเชื่อมต่อกับเครื่องมือ Agentic AI ภายนอก เพื่อเพิ่มอินเทอร์เฟซภาษาธรรมชาติที่อ้างอิงจากข้อมูล Telemetry สด ผู้ดูแลระบบจึงสามารถตรวจสอบสุขภาพของคลัสเตอร์และรับคำแนะนำในการแก้ไขผ่านการสนทนา โดยทีมงานสามารถเลือกดำเนินการแก้ไขด้วยตนเอง (Person in the loop) หรือเชื่อมต่อ Minerva เข้ากับระบบอัตโนมัติผ่าน Application Programming Interfaces (API) ก็ได้

ผลลัพธ์ที่เพิ่ม Yield ของโรงงาน AI ให้สูงสุด

ความสามารถในการเชื่อมโยงปัญหาของเวิร์กโหลดและโครงสร้างพื้นฐานเข้าด้วยกัน ช่วยให้การดำเนินงานของโรงงาน AI ง่ายขึ้นอย่างมาก แทนที่จะต้องรับมือกับการแจ้งเตือนจำนวนมหาศาล Minerva จะรวมปัญหาที่เกี่ยวข้องกันเป็นรายการเดียวที่นำไปปฏิบัติได้ ช่วยให้ทีม AIOps เปลี่ยนจากการบำรุงรักษาเชิงรับ (Reactive) ไปเป็นการบำรุงรักษาเชิงรุก (Proactive) เพื่อเพิ่มระยะเวลาการทำงาน (Uptime) ของ GPU ให้สูงสุด

Minerva มอบคุณค่าผ่านตัวชี้วัดหลักที่สำคัญของโรงงาน AI ได้แก่:

• ระยะเวลาระหว่างการหยุดชะงักที่นานขึ้น: ตรวจพบปัญหาก่อนจะเกิดขึ้น ทำให้งานรันได้ต่อเนื่องโดยไม่มีเหตุขัดข้อง
• ระยะเวลาในการซ่อมแซมที่เร็วขึ้น: ระบุจุดที่เป็นปัญหาได้อย่างแม่นยำเมื่อเกิดเหตุการณ์ ทำให้นำไปสู่การแก้ไขที่รวดเร็วขึ้น
• ข้อมูลเชิงลึกที่มากกว่า: คัดกรองข้อมูลมหาศาลจากโครงสร้างพื้นฐาน AI สมัยใหม่ ให้เหลือเพียงการแจ้งเตือนที่สำคัญจริงๆ

IREN เป็นหนึ่งในพันธมิตรของ NVIDIA ที่นำ Minerva ไปใช้เพื่อเพิ่มประสิทธิภาพให้กับโรงงาน AI ของตน โดย Denis Skrinnikoff ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีของ IREN กล่าวว่า "NVIDIA Minerva ช่วยให้ทีมปฏิบัติการเห็นภาพรวมหนึ่งเดียวทั้งเครือข่าย GPU และงานที่รันอยู่ ทำให้เรามุ่งเน้นที่การบำรุงรักษาเชิงรุกได้มากขึ้นแทนที่จะเป็นการแก้ไขปัญหา (Troubleshooting) ซึ่งช่วยเสริมความแข็งแกร่งให้กับโมเดลการดำเนินงานของเรา"

นอกจาก IREN แล้ว ยังมีบริษัทชั้นนำอย่าง Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI และ Tesla ที่วางแผนจะปรับใช้ Minerva ขณะที่ผู้ผลิตฮาร์ดแวร์อย่าง Dell Technologies, Lenovo และ Supermicro จะนำเสนอ Minerva เป็นส่วนหนึ่งของพอร์ตโฟลิโอโซลูชันโรงงาน AI ของพวกเขาด้วย

เรียนรู้เพิ่มเติมเกี่ยวกับ NVIDIA Minerva

ดูประกาศเกี่ยวกับข้อมูลผลิตภัณฑ์ซอฟต์แวร์