tag: Switchyard

NVIDIA เปิดตัว Switchyard ไลบรารีอัจฉริยะช่วยสลับโมเดล AI ลดต้นทุน

NVIDIA เปิดตัว Switchyard ไลบรารีอัจฉริยะช่วยสลับโมเดล AI ลดต้นทุน

· By: SirilukP
ทำความรู้จัก NVIDIA NeMo Switchyard ระบบจัดการเส้นทางคำขอ AI ที่ช่วยเลือกใช้โมเดลราคาถูกในงานง่ายและสลับไปใช้โมเดลระดับสูงเฉพาะงานยาก เพื่อประสิทธิภาพสูงสุดในราคาที่ประหยัดกว่า
NVIDIA เปิดตัว Switchyard: ตัวกลางจัดการทราฟฟิก LLM ข้ามค่ายผ่าน Rust Proxy และ Library

NVIDIA เปิดตัว Switchyard: ตัวกลางจัดการทราฟฟิก LLM ข้ามค่ายผ่าน Rust Proxy และ Library

· By: NatapolK
NVIDIA เปิดตัว Switchyard โปรเจกต์ Open-source สำหรับจัดการเส้นทางและแปลรูปแบบทราฟฟิก LLM ช่วยให้แอปพลิเคชันที่รองรับเฉพาะ OpenAI หรือ Anthropic สามารถทำงานร่วมกับโมเดลบน vLLM, NIM หรือ Ollama ได้ทันที