tag: Llama-3.3

ประยุกต์ฟิสิกส์สู่การตัดแต่ง LLM: เปลี่ยนการลบบล็อกเป็นปัญหา Ising

ประยุกต์ฟิสิกส์สู่การตัดแต่ง LLM: เปลี่ยนการลบบล็อกเป็นปัญหา Ising

· By: SirilukP
ทีมนักวิจัยเสนอแนวทางใหม่ในการทำ Model Pruning โดยการเปลี่ยนปัญหาการเลือกบล็อกโมเดลให้เป็นปัญหาการหาค่าเหมาะสมที่สุดแบบ Ising ซึ่งช่วยบีบอัดโมเดลได้ถึง 50% โดยยังคงประสิทธิภาพสูงกว่าวิธีเดิมอย่างชัดเจน