โมเดลจิ๋วสเปกโหด! นักพัฒนาชุมชนเปิดตัว MiniCPM5-1B เวอร์ชั่นปรับแต่งด้วยข้อมูลจาก Claude Fable 5

นักพัฒนาชุมชนชื่อ GnLOLot ได้เผยแพร่โมเดลขนาด 1B ที่สามารถทำงานบนฮาร์ดแวร์ท้องถิ่นได้อย่างสมบูรณ์ภายใต้ชื่อ MiniCPM5-1B-Claude-Opus-Fable5-Thinking โดยมีการจัดทำ GGUF builds เพื่อให้รองรับการทำงานร่วมกับ llama.cpp ได้ทันที จุดเด่นคือผู้ใช้ไม่จำเป็นต้องใช้ API key และไม่มีการเรียกใช้บริการคลาวด์ภายนอกระหว่างการใช้งาน

รายละเอียดของโมเดลที่นำเสนอ

โมเดลนี้สร้างขึ้นบนพื้นฐานของ openbmb/MiniCPM5-1B ซึ่งเป็นผลงานอย่างเป็นทางการจาก OpenBMB โดยเป็นโมเดลแบบ dense ขนาด 1.08 พันล้านพารามิเตอร์ (1.08B) ใช้สถาปัตยกรรมมาตรฐาน LlamaForCausalLM ประกอบด้วย 24 layers และใช้เทคนิค grouped-query attention พร้อมความยาวบริบท (context length) 131,072 tokens ซึ่งทาง OpenBMB ระบุว่าเป็นโมเดลระดับแนวหน้า (SOTA) ในกลุ่มโอเพนซอร์สคลาส 1B เมื่อเทียบกับชุดข้อมูลทดสอบภายใน

ตัวโครงสร้างหลักถูกติดตั้งเทมเพลตการคิด (native thinking template) มาให้ในตัว ทำให้สามารถสลับโหมดการใช้เหตุผลผ่านฟังก์ชัน enable_thinking เพื่อเลือกระหว่างโหมดปกติและโหมดใช้ความคิดได้ นอกจากนี้โมเดลฉบับปรับปรุงยังคงรักษาเทมเพลตเดิมรวมถึงรูปแบบการเรียกใช้เครื่องมือ (tool-call format) ของ MiniCPM5 ไว้อย่างครบถ้วน

นอกจากการใช้โครงสร้างหลักแล้ว นักพัฒนาได้ดำเนินการ Supervised Fine-tuning (SFT) เพิ่มเติม โดยระบุข้อมูลใน model card ว่าได้ฝึกฝนบน 'ข้อมูลร่องรอย (traces) ของ Fable 5' เพื่อยกระดับความสามารถด้านการเขียนโค้ดและการปฏิบัติตามคำสั่ง (instruction following) ขณะที่ไฟล์ในเวอร์ชัน GGUF ก็ได้เน้นย้ำถึงกระบวนการ post-trained บนชุดข้อมูล Fable 5 นี้เช่นกัน

วิเคราะห์กระบวนการสร้างและข้อเท็จจริง

วิธีการสร้างโมเดลนี้ไม่ใช่การทำ distillation แบบดั้งเดิมในเชิงลึก แต่เป็นการสร้างบทสนทนาจำนวนมากกับโมเดลผู้สอน (Teacher Model) แล้วบันทึกคำตอบรวมถึงขั้นตอนการใช้เหตุผล (reasoning traces) ออกมาเป็นข้อความ จากนั้นจึงนำข้อมูลเหล่านั้นมาทำการ fine-tune ลงในโมเดลฐานที่มีขนาดเล็กกว่า ความแตกต่างนี้มีความสำคัญมาก เนื่องจากไม่ใช่การถ่ายโอนสัญญาณจากน้ำหนัก (weights) หรือ logits โดยตรงของ Claude ซึ่งเป็นความลับทางการค้า แต่เป็นการเลียนแบบผลลัพธ์ที่ปรากฏภายนอกเท่านั้น

ผลลัพธ์ในทางปฏิบัติคือโมเดลขนาด 1B จะเรียนรู้ที่จะเลียนแบบรูปแบบและสไตล์การตอบโต้ของ Claude ได้ดีขึ้น อย่างไรก็ตาม ด้วยข้อจำกัดของจำนวนพารามิเตอร์เพียง 1 พันล้านตัว ทำให้มันไม่สามารถดูดซับความสามารถในการใช้เหตุผลระดับสูง (frontier-scale reasoning) หรือความรู้ที่กว้างขวางเท่ากับโมเดลต้นฉบับของผู้สอนมาได้ทั้งหมด

ข้อมูลจำเพาะทางเทคนิค

หน้าต่างบริบท (context window) ของโมเดลอยู่ที่ 128K tokens ซึ่งสืบทอดมาจากค่า config.json พื้นฐาน สำหรับในคลังข้อมูล GGUF มีการจัดทำไฟล์ความละเอียด (quantization) หลายระดับ ได้แก่ Q4_K_M ที่มีขนาดเล็กที่สุดเพียง 657MB, Q5_K_M ขนาด 751MB, Q8_0 ขนาด 1.1GB (ซึ่งเป็นระดับที่ผู้พัฒนาแนะนำ) และเวอร์ชันเต็ม F16 ที่ขนาด 2.1GB

แม้ขนาด 657MB จะเป็นค่าเริ่มต้นที่ประหยัดพื้นที่มากที่สุด แต่ความแม่นยำอาจลดหลั่นลงไปตามระดับการบีบอัด โดยตัวบล็อกของโมเดลสามารถนำไปใช้งานได้โดยตรงบนซอฟต์แวร์ยอดนิยมอย่าง llama.cpp, Ollama, LM Studio, jan และ KoboldCpp

วิธีการติดตั้งและใช้งาน

สำหรับผู้ใช้ที่ต้องการรันผ่าน Ollama สามารถทำได้ง่ายๆ ด้วยคำสั่งเพียงบรรทัดเดียว:

ollama run hf.co/GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-Thinking-GGUF:Q4_K_M

นอกจากนี้ คลังข้อมูลยังระบุขั้นตอนการทำงานสำหรับแอปพลิเคชันอื่นๆ เช่น LM Studio หรือ KoboldCpp โดยค่าพารามิเตอร์ที่แนะนำสำหรับโหมด Think คือ temperature=0.9, top_p=0.95 ซึ่งตัวโมเดลจะแสดงส่วนการใช้ความคิด (reasoning block) ก่อนที่จะให้คำตอบสุดท้าย โดยแอปพลิเคชันปลายทางสามารถตั้งค่าให้กรองส่วนนี้ออกได้เพื่อความสวยงาม

สรุปประเด็นสำคัญที่น่าสนใจ

• เป็นการนำ MiniCPM5-1B มาทำ Supervised Fine-tuning บนข้อมูลจาก Claude Fable 5 ไม่ใช่การถ่ายโอนน้ำหนักโมเดล (weight-level distillation)
• สเปกทางเทคนิค: Context 128K, ขนาดไฟล์เริ่มตั้งแต่ 657MB (Q4_K_M) ถึง 2.1GB (F16) โดยแนะนำรุ่น Q8_0 เพื่อประสิทธิภาพสูงสุด
• การปรับแต่งส่งผลต่อสไตล์และรูปแบบการตอบคำถาม มากกว่าการเพิ่มขนาดความรู้พื้นฐานหรือความฉลาดในการคิดเชิงลึกระดับสูง
• ปัจจุบันยังไม่มีผลการทดสอบ Benchmarks หรือการเปิดเผยชุดข้อมูลฝึกฝน ทำให้ประสิทธิภาพที่ระบุยังคงเป็นข้อมูลเบื้องต้นจากผู้พัฒนา
• ใบอนุญาต Apache-2.0 ครอบคลุมเฉพาะโมเดลฐาน แต่การใช้ข้อมูลจาก Claude มาร่วมฝึกฝนอาจนำไปสู่ประเด็นทางกฎหมายที่ยังไม่ถูกระบุไว้ชัดเจนใน model card

บทความโดย Michal Sutter ผู้เชี่ยวชาญด้านวิทยาศาสตร์ข้อมูลจาก University of Padova ซึ่งมีความเชี่ยวชาญในด้าน machine learning และการวิเคราะห์ทางสถิติเพื่อเปลี่ยนข้อมูลที่ซับซ้อนให้เป็นการใช้งานได้จริง