tag: Hy3

Tencent เปิดตัว AngelSpec เฟรมเวิร์ก Open-Source เร่งสปีดการเทรน Speculative Decoding ให้โมเดล AI

Tencent เปิดตัว AngelSpec เฟรมเวิร์ก Open-Source เร่งสปีดการเทรน Speculative Decoding ให้โมเดล AI

· By: AttapolK
Tencent เปิดตัว AngelSpec เฟรมเวิร์กแบบ torch-native สำหรับเทรน draft models ช่วยเพิ่มความเร็วในการประมวลผลสูงสุด 2.4 เท่า โดยมาพร้อมสถาปัตยกรรม DFly ที่โดดเด่นด้านงานเขียนโค้ดและคณิตศาสตร์
Tencent เปิดตัว Hy3 โมเดล AI โอเพนซอร์สสถาปัตยกรรม MoE ประสิทธิภาพแรงกว่าขนาดตัว 5 เท่า

Tencent เปิดตัว Hy3 โมเดล AI โอเพนซอร์สสถาปัตยกรรม MoE ประสิทธิภาพแรงกว่าขนาดตัว 5 เท่า

· By: NatapolK
Tencent เปิดตัวโมเดลภาษาขนาดใหญ่ Hy3 ชูจุดเด่นสถาปัตยกรรม MoE ที่มีพารามิเตอร์รวม 295 พันล้าน แต่ใช้ทรัพยากรประมวลผลจริงเพียง 21 พันล้านพารามิเตอร์ ให้ประสิทธิภาพสูงเทียบเท่าโมเดลขนาดใหญ่กว่าหลายเท่า พร้อมลดอัตราการหลอนลงกว่าครึ่ง