tag: TokenGate

Stanford เปิดตัว TokenGate เร่งความเร็ว Prefill ใน LLM สูงสุด 11.3 เท่า

Stanford เปิดตัว TokenGate เร่งความเร็ว Prefill ใน LLM สูงสุด 11.3 เท่า

· By: SirilukP
นักวิจัยจาก Stanford และ UC Berkeley พัฒนา TokenGate ระบบตัดโทเคนแบบเรียนรู้ได้ ช่วยลดเวลาการประมวลผลบริบทขนาดยาวและประหยัดหน่วยความจำสูงสุด 3.4 เท่าโดยไม่เสียความแม่นยำ