Qwen 27B เก่งสู้ GPT-4o ได้จริงหรือ ทำไมโมเดลเล็กถึงแรงเกินตัว

เรื่องย่อ

กระทู้จาก u/SignificantZebra5883 ในชุมชน r/LocalLLaMA ได้ตั้งคำถามที่น่าสนใจว่า เป็นไปได้ยังไงที่โมเดลขนาด 27 พันล้านพารามิเตอร์ (27b) อย่าง Qwen ถึงให้ผลลัพธ์ที่ดีมากจนน่าประหลาดใจ เมื่อเทียบกับยักษ์ใหญ่อย่าง GPT-4o ที่เคยมีข่าวว่ามีพารามิเตอร์เป็นล้านล้านตัวแต่กลับทำผลงานได้ใกล้เคียงกันหรืออาจจะด้อยกว่าในบางแง่มุม โดยเจ้าของกระทู้สงสัยว่าเบื้องหลังเทคโนโลยีนี้คืออะไร หรือเป็นเพียงแค่การมีชุดข้อมูลฝึกฝน (Pre-training data) ที่มีคุณภาพสูงกว่ากันแน่ ซึ่งกระทู้นี้ได้รับความสนใจอย่างมากด้วยจำนวนกว่า 1,100 upvote และกว่า 300 คอมเมนต์

คนในกระทู้ว่าอย่างไร

• คุณภาพของข้อมูลและการสอนโมเดลสำคัญกว่าขนาด: ความเห็นส่วนใหญ่เชื่อว่า Qwen ไม่ได้มีแค่สถาปัตยกรรมที่ดี แต่หัวใจหลักคือ "Clean Data" หรือข้อมูลที่สะอาดและผ่านการคัดกรองมาอย่างดี รวมถึงกระบวนการ Reinforcement Learning (RL) ที่เข้มข้นกว่าเดิม ซึ่งช่วยให้โมเดลมีทักษะการใช้เหตุผลและการแก้ปัญหาที่แม่นยำขึ้นแม้จะมีขนาดเล็กกว่า
• การแลกเปลี่ยนระหว่างความรู้รอบตัวกับความเชี่ยวชาญ: มีคนชี้ประเด็นสำคัญว่าโมเดลเล็กมักจะถูกปรับจูนมาเพื่อ "การเขียนโค้ดและการใช้เหตุผล" เป็นหลัก ซึ่งทำได้ดีมากจนคนมองข้ามจุดด้อยเรื่องความรู้รอบตัว (World Knowledge) โดยโมเดลขนาดใหญ่แบบ GPT ยังจำเป็นสำหรับการตอบคำถามเชิงลึกในสาขาเฉพาะทางที่ไม่ใช่ไอที เช่น ประวัติศาสตร์ หรือกฎหมาย
• เทคนิคการกลั่นกรองความรู้ (Distillation): มีการวิเคราะห์ว่าโมเดลเล็กๆ เหล่านี้ถูก "ถ่ายทอดวิชา" มาจากโมเดลรุ่นพี่ที่มีขนาดใหญ่กว่ามาก ทำให้มันสามารถเรียนรู้รูปแบบการตอบที่ซับซ้อนได้โดยไม่ต้องลองผิดลองถูกเองทั้งหมด ช่วยประหยัดทรัพยากรและทำให้โมเดลขนาดเล็กมีประสิทธิภาพสูงขึ้นอย่างก้าวกระโดด
• อนาคตของ AI บนเครื่องส่วนบุคคล: สมาชิกบางส่วนมองว่าเรากำลังอยู่ในยุคบุกเบิกเหมือนสมัยคอมพิวเตอร์ 8-bit ที่นักพัฒนาพยายามรีดประสิทธิภาพจากทรัพยากรจำกัด ซึ่งในอนาคตโมเดลขนาดเล็กจะเก่งขึ้นเรื่อยๆ จนสามารถรันบนแล็ปท็อปทั่วไปได้สบาย โดยไม่จำเป็นต้องพึ่งพา Data Center ขนาดใหญ่เสมอไป
• มุมมองต่างเรื่องการใช้งานจริง: บางคนแย้งว่าถึงแม้คะแนนเบนช์มาร์คจะดูดี แต่จากการใช้งานจริงโมเดล 27b ยังมีข้อผิดพลาดให้เห็นบ่อยครั้งและอาจจะสู้โมเดลระดับ Frontier ไม่ได้ในงานที่ซับซ้อนมากๆ หรือต้องการความถูกต้อง 100% ในข้อมูลดิบ