tag: Polymathic AI

เปิดตัว FlashMap ระบบร่าง Token ใหม่ เร่งความเร็ว LLM สูงสุด 6.14 เท่า

เปิดตัว FlashMap ระบบร่าง Token ใหม่ เร่งความเร็ว LLM สูงสุด 6.14 เท่า

· By: AttapolK
คณะวิจัยจาก Polymathic AI และ Princeton เปิดตัว FlashMap ตัวร่างสำหรับ speculative decoding ที่ใช้เทคนิค continuous flow map ช่วยให้ร่าง 16 token ได้พร้อมกันในครั้งเดียวและเร่งความเร็วแบบ lossless ได้มหาศาล