tag: GGUF

เปิดตัว Saluki 27B: โมเดลจิ๋ว 2-bit ที่เก่ง Tool Calling กว่ารุ่นพี่

เปิดตัว Saluki 27B: โมเดลจิ๋ว 2-bit ที่เก่ง Tool Calling กว่ารุ่นพี่

· By: AttapolK
Conway Research เปิดตัว Underdog Saluki 27B โมเดลภาษาขนาดเล็กที่บีบอัดเหลือเพียง 7.89 GB แต่มีประสิทธิภาพด้านการเรียกใช้เครื่องมือ (Tool Calling) สูงกว่าโมเดลต้นฉบับที่มีขนาดใหญ่ถึง 54 GB
GGUF vs GPTQ vs AWQ vs EXL2: เจาะลึกความต่างรูปแบบโมเดล LLM

GGUF vs GPTQ vs AWQ vs EXL2: เจาะลึกความต่างรูปแบบโมเดล LLM

· By: TanasakP
คู่มือเปรียบเทียบรูปแบบโมเดลภาษาขนาดใหญ่ (LLM) ในปี 2026 อธิบายความแตกต่างระหว่างไฟล์คอนเทนเนอร์และวิธี Quantization พร้อมคำแนะนำการเลือกใช้งานให้เหมาะกับฮาร์ดแวร์แต่ละประเภท
Liquid AI เปิดตัว Checkpoints LFM2.5 Q4_0 ที่ผ่านการเทรนด้วย Quantization-Aware Distillation

Liquid AI เปิดตัว Checkpoints LFM2.5 Q4_0 ที่ผ่านการเทรนด้วย Quantization-Aware Distillation

· By: SirilukP
Liquid AI เปิดตัวโมเดล LFM2.5 ในรูปแบบ GGUF 4-bit ที่ใช้เทคนิค Quantization-Aware Distillation (QAD) ช่วยให้คงประสิทธิภาพได้สูงถึง 97% ของรุ่น BF16 เดิม แต่ยังประหยัดหน่วยความจำและทำงานได้รวดเร็วตามมาตรฐาน Q4_0