Bonsai 27B โมเดล Reasoning แบบโอเพนซอร์สที่รันบน iPhone ได้จริง

PrismML ได้สร้างความฮือฮาด้วยการบีบอัดโมเดล AI ขนาด 27 หมื่นล้านพารามิเตอร์ให้มีขนาดเล็กลงจนเหลือต่ำกว่า 4 GB ซึ่งเล็กพอที่จะติดตั้งและรันบน iPhone ได้โดยตรง

จากผลการทดสอบประสิทธิภาพภายในระบุว่า แม้จะเป็นเวอร์ชันที่ถูกบีบอัดจนเล็กที่สุด แต่ยังคงรักษาประสิทธิภาพการทำงานเดิมไว้ได้สูงถึง 90 เปอร์เซ็นต์ โดยเฉพาะคะแนนในด้านคณิตศาสตร์และการเขียนโค้ดที่แทบไม่ได้รับผลกระทบจากการบีบอัดเลย

มีรายงานเพิ่มเติมว่า Apple ได้เริ่มกระบวนการทดสอบเทคโนโลยีการบีบอัดนี้แล้ว ซึ่งอาจเป็นกุญแจสำคัญในการลดช่องว่างและยกระดับขีดความสามารถด้าน on-device AI ในอนาคต