NVIDIA เปิดตัว Nemotron 3.5 Super VL และ Bolt อัปเกรดความแรง

NVIDIA เปิดตัว Nemotron 3.5 Super VL อย่างเป็นทางการในวันนี้ โดยเป็นโมเดลแบบเปิด (open model) ขนาด 120 พันล้านพารามิเตอร์ที่ออกแบบมาเพื่อให้เอเจนท์เฉพาะทางสามารถทำงานได้อย่างแม่นยำและรวดเร็วที่สุด

นอกจากนี้ยังเปิดตัวโมเดลใหม่สำหรับอุปกรณ์ edge อีกสองรุ่น ได้แก่ Nemotron 3.5 Bolt 74B-A9B 24GB ที่สร้างสมดุลระหว่างความฉลาดและความเร็วต่อ GB สำหรับเอเจนท์ในเครื่อง และ Nemotron 3.5 Bolt E4B 4GB ที่เน้นความเร็วในการสนทนาสำหรับเอเจนท์ขนาดเล็ก

สำหรับ Super VL และ Bolt 74B-A9B พร้อมให้ใช้งานได้ทันที ส่วนรุ่น Bolt E4B จะตามมาในวันที่ 23 ต.ค. นี้ โดย open models ทั้งสามรุ่นครอบคลุมการใช้งานทุกรูปแบบ ตั้งแต่เซิร์ฟเวอร์องค์กรไปจนถึงฮาร์ดแวร์ในเครื่อง ช่วยให้องค์กรไม่ต้องเลือกระหว่างประสิทธิภาพและความสะดวกในการติดตั้งอีกต่อไป

ตระกูล Nemotron 3.5 ในปัจจุบันประกอบด้วยโมเดลหลากหลายรุ่น ได้แก่ Lightning ที่เน้นทรูพุตสูง Ultra สำหรับงานใช้เหตุผลที่ซับซ้อน และน้องใหม่อย่าง Bolt ที่นำความฉลาดมาสู่ระดับ edge

Nemotron 3.5 Super VL: แม่นยำระดับแนวหน้าในขนาดที่เล็กลง

Super VL พัฒนาขึ้นภายใต้ความร่วมมือกับ Nemotron Coalition มอบความแม่นยำสูงในงาน multimodal agentic tasks ทั้งการทำตามคำสั่ง การใช้เครื่องมือ และเวิร์กโฟลว์ธุรกิจที่ซับซ้อน โดยมีประสิทธิภาพเทียบเท่าโมเดลขนาดใหญ่ที่สุดของ NVIDIA แม้จะมีจำนวนพารามิเตอร์เพียงหนึ่งในห้าก็ตาม

Nemotron 3.5 Super VL ถือเป็นโมเดลเอเจนท์แบบเปิดที่เร็วที่สุดในระดับเดียวกัน โดยมีความเร็วมากกว่าคู่แข่งอันดับถัดไปถึง 5 เท่า ช่วยให้เวิร์กโฟลว์ขององค์กรที่ปกติอาจใช้เวลาหลายวันเสร็จสิ้นได้รวดเร็วยิ่งขึ้น

จากตารางอันดับ Artificial Analysis Intelligence Index พบว่า Nemotron 3.5 Super VL มีทรูพุตสูงกว่าโมเดลอื่นในระดับเดียวกัน 5 เท่า ที่สำคัญคือองค์กรสามารถนำไปทำ post-train ด้วยข้อมูลส่วนตัวและปรับใช้บนโครงสร้างพื้นฐานของตนเองได้ ต่างจากโมเดลระดับแนวหน้าแบบปิดทั่วไป

Nemotron 3.5 Bolt: พลังเอเจนท์อัจฉริยะที่ Edge

Bolt 74B-A9B 24GB ถูกออกแบบมาเพื่อรันงานบน NVIDIA RTX/DGX Spark โดยใช้ native 2-bit quantization เพื่อให้ใช้งานร่วมกับแอปพลิเคชันอื่นในหน่วยความจำ 24GB ได้อย่างราบรื่น รุ่นนี้มีความสมดุลระหว่างความฉลาดที่เพียงพอต่อการทำงานส่วนใหญ่และความเร็วที่เหนือกว่าโมเดลขนาดใหญ่

ผู้ใช้สามารถรันระบบจัดการเอเจนท์ในเครื่องเพื่อค้นหาเว็บหรือดีบักโค้ดได้โดยไม่ต้องส่งข้อมูลขึ้นคลาวด์ ซึ่ง Bolt 74B-A9B คว้าอันดับ 1 ในระดับเดียวกันบน PinchBench และอันดับ 2 บน BrowseComp

ส่วน Bolt E4B 4GB พัฒนามาเพื่อเอเจนท์ทางกายภาพและการสนทนาบน GeForce RTX, Jetson และ RTX/DGX Spark เพื่อขับเคลื่อนระบบสั่งการด้วยเสียงและตัวละครที่โต้ตอบได้แบบเรียลไทม์

การนำ AI อัจฉริยะไปประยุกต์ใช้ตามความต้องการ

ปัจจุบันหลายองค์กรเริ่มทำ post-training ให้กับ Super VL ด้วยข้อมูลเฉพาะทาง เช่น Scale AI ที่นำไปใช้ในงานการเงินและตรวจสอบสถานะ M&A ส่วน AI21 และ Alice ใช้เสริมความทนทานต่อการโจมตีทางไซเบอร์ และ ModelScope ช่วยให้นักพัฒนาปรับแต่งโมเดลผ่านเฟรมเวิร์ก ms-swift ได้ง่ายขึ้น

นอกจากนี้ยังมี Ramp ที่ใช้ในงานเอกสารทางการเงิน, Lila Sciences สำหรับการค้นคว้าทางวิทยาศาสตร์ และ R1 สำหรับการวิเคราะห์การเคลมทางการแพทย์ ขณะที่ TrainLoop ได้ทำโมเดลจนได้รับการอนุมัติให้ใช้ AI เขียนใบสั่งยาเบื้องต้นในงานด้านผิวหนังเป็นรายแรก

พันธมิตรซอฟต์แวร์ที่ผสาน Nemotron 3.5 Super VL เข้ากับระบบ ได้แก่:

• Atlassian สำหรับการค้นหาข้อมูลข้ามแอปพลิเคชันอย่าง Jira และ Confluence
• CrowdStrike สำหรับงาน agentic blue teaming ในระบบความปลอดภัย
• Dassault Systèmes สำหรับการออกแบบวิศวกรรมและการจำลองสถานการณ์
• Perplexity สำหรับงานเอเจนท์ในระบบค้นหา
• Salesforce พัฒนา Missionforce Operations เพื่อเปลี่ยนงานภาครัฐให้เป็นดิจิทัล
• Synopsys สำหรับการตรวจสอบการออกแบบเซมิคอนดักเตอร์

ความสามารถด้านการมองเห็นของ Nemotron 3.5 Super VL

จุดเด่นด้าน vision language ของรุ่นนี้เน้นไปที่การใช้งานจริง เช่น การจดจำอักขระ (OCR), การอ่านตารางและแผนภูมิจากเอกสารภาพ รวมถึงการประมวลผลหน้าเว็บและไฟล์ PDF

การรวมความเข้าใจด้านภาพและข้อความไว้ในโมเดลเดียวช่วยให้เอเจนท์ทำงานได้ต่อเนื่องโดยไม่ต้องส่งต่องานระหว่างระบบ ลดการสูญเสียบริบทเมื่อต้องเปลี่ยนจากการอ่านเอกสารไปสู่การตัดสินใจ

ความปลอดภัยและความเป็นส่วนตัวภายใต้โมเดลแบบเปิด

โมเดลนี้มาพร้อม open weights และสูตรการฝึกสอน (training recipes) ช่วยให้องค์กรควบคุมการใช้งานได้เต็มที่ สามารถรันบน premises เพื่อความปลอดภัยและรักษาความเป็นส่วนตัวของข้อมูล เช่น การสแกนการฉ้อโกงในธุรกิจประกันภัย หรือการตรวจสอบคะแนนเครดิตในสถาบันการเงิน

NVIDIA สนับสนุนการปรับแต่งผ่าน NVIDIA NeMo และชุดข้อมูลแบบเปิด โดย Nemotron 3.5 Super VL ได้รับการฝึกบนโทเค็นถึง 26 ล้านล้านโทเค็นในขั้นตอน pretraining และผ่านการทำ post-trained อีกกว่า 3.8 ล้านตัวอย่าง

NVIDIA NIM ยังช่วยบรรจุโมเดลเป็นไมโครเซอร์วิสที่พร้อมใช้งาน โดยการรันบน NVIDIA Dynamo จะช่วยให้รองรับผู้ใช้ได้มากขึ้น 8 เท่า และลดความหน่วงลง 85%

ปัจจุบัน Nemotron 3.5 Super VL พร้อมใช้งานแล้วบน Hugging Face, Open Router และ ModelScope community

รองรับฮาร์ดแวร์ตระกูล DGX และ RTX ครบวงจร

โมเดลใหม่รันได้บนสแต็กฮาร์ดแวร์ของ NVIDIA ทั้งหมด ตั้งแต่ DGX Spark, DGX Station, ระบบ RTX PRO ไปจนถึง NVIDIA Jetson ที่ระดับ edge

Nemotron 3.5 Bolt 74B-A9B 24GB สามารถใช้งานร่วมกับ llama.cpp, Ollama และ vLLM ได้ทันที และจะรองรับ แล็ปท็อป NVIDIA RTX Spark รุ่นใหม่ที่จะเปิดตัวในวันที่ 16 ต.ค. นี้ด้วย

ผู้ที่สนใจสามารถดาวน์โหลด open weights หรือศึกษาข้อมูลเพิ่มเติมได้ที่ technical blog ของ NVIDIA