NVIDIA รุกตลาด Local AI เปิดตัว Nemotron 3.5 Lightning ชูจุดเด่นสร้างเอเจนต์ฉลาดและรวดเร็วบนเครื่องส่วนตัว

ระบบนิเวศโอเพนซอร์สกำลังช่วยให้ผู้ที่ชื่นชอบ AI และนักพัฒนาสามารถสร้าง ปรับแต่ง และรันเอเจนต์ที่มีความสามารถสูงขึ้นในเครื่องของตนเอง (local) ได้ง่ายขึ้นอย่างก้าวกระโดด

ตลอดเดือนสิงหาคมนี้ NVIDIA ได้ร่วมเฉลิมฉลองกับพันธมิตรและชุมชนโอเพนซอร์สที่ขับเคลื่อน Local AI ให้ก้าวหน้า ผ่านการเปิดตัวโมเดล แอปพลิเคชัน และเครื่องมือต่างๆ ทั่วทั้งระบบนิเวศ ซึ่งรวมถึงโมเดลแบบเปิดล่าสุด ซอฟต์แวร์ และเครื่องมือสำหรับนักพัฒนา ตลอดจนการประมวลผลแบบเร่งความเร็ว (accelerated computing) ไลบรารี และแหล่งข้อมูลการเรียนรู้ที่ช่วยให้ผู้ใช้เริ่มต้นใช้งานได้ทันที

นี่คือช่วงเวลาสำคัญสำหรับเทคโนโลยีเอเจนต์ โดยสามารถติดตามความคืบหน้าล่าสุดได้ในซีรีส์บล็อก NVIDIA Local AI ฉบับพิเศษนี้ ซึ่งจะมีการอัปเดตใหม่ๆ เพิ่มเติมอย่างต่อเนื่องในสัปดาห์ต่อๆ ไป

ติดตาม NVIDIA RTX Spark ได้ที่ X, Instagram, TikTok และ Facebook — รวมถึงสมัครรับจดหมายข่าว RTX AI PC newsletter เพื่อไม่พลาดข่าวสารสำคัญ สำหรับความเคลื่อนไหวด้านเวิร์กสเตชัน ติดตาม NVIDIA Workstation ได้ที่ LinkedIn และ X

วันอังคารที่ 11 ส.ค. เวลา 06:00 น. PT

NVIDIA เปิดตัว Nemotron 3.5 Lightning สำหรับงาน Agentic Tasks ที่รวดเร็วและเฉพาะทาง

วันนี้ NVIDIA ได้ขยายตระกูลโมเดล Nemotron 3 ด้วยการเปิดตัว Nemotron 3.5 Lightning ซึ่งเป็นโมเดลแบบเปิดขนาด 30B ในสถาปัตยกรรม mixture-of-experts (MoE) ที่ออกแบบมาเพื่อการปรับแต่ง AI เอเจนต์ให้ทำงานได้อย่างต่อเนื่อง

จุดเด่นของ Nemotron 3.5 Lightning คือความสามารถในการสร้าง token ที่รวดเร็วขึ้นสูงสุดถึง 4 เท่า และลดเวลาในการประมวลผลงานให้เสร็จสิ้นเร็วขึ้น 30% เมื่อเทียบกับโมเดลแบบเปิดในระดับเดียวกัน เนื่องจาก Nemotron 3.5 Lightning เป็นโมเดลแบบ open weights นักพัฒนาและผู้ใช้งานจึงสามารถนำไป fine-tune ด้วยข้อมูลเฉพาะของตนเอง เพื่อให้ตอบโจทย์เวิร์กโฟลว์ที่ต้องการได้ดียิ่งขึ้น ตัวอย่างเช่น:

• เขียนในสไตล์ที่ต้องการ: กำหนดโทน รูปแบบ และคำศัพท์เฉพาะสำหรับอีเมลหรือรายงาน
• เรียนรู้ความเชี่ยวชาญเฉพาะด้าน: เพิ่มความเข้าใจในคำศัพท์เฉพาะทางในสายงานต่างๆ เช่น การถ่ายภาพ เกม หรือการออกแบบ 3D
• เขียนโค้ดในรูปแบบเฉพาะ: ปฏิบัติตามแนวทางการเขียนโค้ด (coding conventions) และเฟรมเวิร์กที่องค์กรกำหนด

เมื่อผสานพลังกับแอปพลิเคชันและข้อมูลในเครื่อง โมเดลเหล่านี้จะกลายเป็นเอเจนต์ที่มีความเป็นส่วนตัวสูง ตั้งแต่ผู้ช่วยจัดการตารางงานไปจนถึงเพื่อนร่วมเขียนโค้ดที่ทำงานบน codebase ส่วนตัวได้อย่างปลอดภัย เพื่อให้ใช้งานในเครื่องได้ดีที่สุด NVIDIA ได้จับมือกับพันธมิตรอย่าง vLLM, Ollama, llama.cpp และ LM Studio ให้นักพัฒนาเลือกใช้โมเดลได้ทั้งรูปแบบ NVFP4 และ GGUF นอกจากนี้ยังได้รับการสนับสนุนจาก Unsloth ตั้งแต่วันแรก เพื่อการปรับใช้ผ่าน Unsloth Studio อย่างมีประสิทธิภาพ

โมเดลนี้รองรับการใช้งานบนอุปกรณ์ที่หลากหลาย ตั้งแต่ NVIDIA RTX PCs, NVIDIA DGX Spark ไปจนถึงระบบจากผู้ผลิตชั้นนำอย่าง Acer, ASUS, Dell Technologies, HP, Lenovo และ Supermicro โดยครอบคลุมตั้งแต่เครื่องเดสก์ท็อปไปจนถึงระบบคลาวด์

นอกจากนี้ NVIDIA ยังเปิดตัว NVIDIA NeMo Switchyard ไลบรารีการกำหนดเส้นทาง (routing) แบบโอเพนซอร์สที่ช่วยบริหารจัดการต้นทุน โดยจะเลือกใช้โมเดลที่เหมาะสมที่สุดสำหรับแต่ละขั้นตอนในเวิร์กโฟลว์โดยอัตโนมัติ ช่วยรักษาความสำเร็จของงานในระดับสูงในขณะที่ลดต้นทุนลงได้เหลือเพียง 1 ใน 3 เมื่อเทียบกับการใช้โมเดลขนาดใหญ่เพียงอย่างเดียว

ผู้ที่สนใจสามารถเริ่มต้นใช้งานได้ผ่านบล็อกทางเทคนิคของ Nemotron 3.5 Lightning และ NeMo Switchyard รวมถึงทดลองใช้งานในรูปแบบไมโครเซอร์วิส NVIDIA NIM ได้ที่ build.nvidia.com