LiteRT บน Google Play services อัปเกรดใหญ่ GPU แรงขึ้น 1.4 เท่า

28 ต.ค. 2026

LiteRT ใน Google Play services รันไทม์สำหรับการทำ on-device inference บน Android สำหรับโมเดลที่กำหนดเอง (custom models) ได้รับการอัปเกรดครั้งใหญ่ที่สุดเท่าที่เคยมีมา โดยสามารถทำ GPU inference ได้เร็วขึ้นถึง 1.4 เท่า เมื่อเทียบกับ GPU delegate แบบเดิม ขับเคลื่อนโดย ML Drift และพร้อมใช้งานผ่าน CompiledModel API ซึ่งเป็นตัวสืบทอดที่ทันสมัยต่อจาก Interpreter API

จากการทดสอบพบว่าแอปที่เปลี่ยนมาใช้ LiteRT ใน Google Play services มีขนาดเล็กลงประมาณ 8 MB ช่วยให้ผู้ใช้ดาวน์โหลดได้เร็วขึ้นและประหยัดพื้นที่ตัวเครื่อง เนื่องจากรันไทม์และตัวเร่งความเร็ว GPU จะถูกเรียกใช้งานผ่าน Play services เพียงชุดเดียว แทนที่จะต้องรวมไว้ในทุกแอป ปัจจุบันมีแอป Android กว่า 100,000 แอปที่ใช้งาน LiteRT หรือ TensorFlow Lite ซึ่งการเปลี่ยนมาใช้ระบบนี้จะช่วยประหยัดพื้นที่ในภาพรวมได้มหาศาล

หากแอป Android ของคุณรันโมเดล ML แบบกำหนดเองบน CPU หรือ GPU เราขอแนะนำให้เปลี่ยนมาใช้ LiteRT ใน Google Play services โดยคุณสามารถดูประสิทธิภาพการทำงานจริงได้ในแอป Google AI Edge Gallery ผ่านฟีเจอร์ image segmentation ของ Scrapbook

นักพัฒนาที่เปลี่ยนมาใช้ LiteRT ใน Google Play services จะได้รับประโยชน์หลายด้าน ประการแรกคือแอปมีขนาดเล็กลงและประหยัดพื้นที่จัดเก็บเนื่องจากไม่ต้องรวม ML runtime เข้าไปใน APK ประการต่อมาคือการอัปเดตอัตโนมัติ ทั้งการปรับปรุงประสิทธิภาพและแพตช์ความปลอดภัยจะส่งผ่าน Play services โดยตรง ช่วยลดภาระในการส่งอัปเดตแอปใหม่ทุกครั้งที่มีการแก้ไข

นอกจากนี้ยังรองรับการทำงานที่ครอบคลุม โดย LiteRT ใน Play services สามารถรันบนอุปกรณ์ย้อนกลับไปได้ถึง Android 7 รวมถึง Wear OS 4+ และ Android Automotive OS ที่สำคัญคือเทคโนโลยีนี้ผ่านการทดสอบในสเกลใหญ่มาแล้ว โดยถูกใช้งานใน ML Kit's Vision และ Text APIs เช่น Subject Segmentation และ Document Scanner บนอุปกรณ์นับพันล้านเครื่อง

LiteRT คือวิวัฒนาการของ TensorFlow Lite ที่ยังคงรูปแบบโมเดล .tflite เดิม แต่เพิ่มความสามารถผ่าน CompiledModel API ที่ทำให้การเร่งความเร็วฮาร์ดแวร์เสถียรยิ่งขึ้น โดยรองรับการใช้งานที่เรียบง่ายขึ้นผ่านเวิร์กโฟลว์เดียวสำหรับทั้ง CPU และ GPU และมีความพกพาสะดวกเพราะโมเดลเดียวสามารถทำงานได้ข้ามแพลตฟอร์มทั้ง Android, iOS, desktop และเว็บ

การเปลี่ยนมาใช้ LiteRT ใน Google Play services สามารถทำได้ง่ายเพียง โค้ดไม่กี่บรรทัด โดยการเพิ่ม dependency และตั้งค่าเริ่มต้นดังนี้:

val liteRtEnvironment = 
LiteRt.initialize(
context,
LiteRtDsl.initializationOptions { setEnableGpu(true) }
).await()

สำหรับนักพัฒนาที่ต้องการความสะดวก Android Studio มี Agent Mode ที่ช่วยแปลงโค้ด TFLite เดิมไปเป็น CompiledModel API ให้โดยอัตโนมัติ เพียงใช้คำสั่ง @litert-runtime ระบบจะสลับแอปไปยัง play-services-litert และตั้งค่าการเร่งความเร็ว GPU พร้อมตัวเลือกสำรองเป็น CPU ให้ทันที โดยสามารถตรวจสอบโค้ดและรับสกิลนี้ได้บน GitHub

ทั้งนี้ API รุ่นเก่าและ NNAPI จะถูกยกเลิกการใช้งาน (deprecated) และมีกำหนดถอดออกในปี 2027 จึงควรวางแผนย้ายไปยัง CompiledModel API ตั้งแต่ตอนนี้เพื่อป้องกันปัญหาความขัดแย้งของ SDK ในอนาคต สามารถดูรายละเอียดเพิ่มเติมได้ที่ release notes

ในอนาคต LiteRT ใน Google Play services จะเป็นรากฐานสำคัญสำหรับการรันโมเดลเฉพาะทางบน Android โดยจะมีการอัปเดตประสิทธิภาพ GPU อย่างต่อเนื่อง และขณะนี้กำลังอยู่ระหว่างการพัฒนาเพื่อรองรับ NPU ใน Play services อย่างเต็มรูปแบบ

• อ่าน เอกสาร LiteRT ใน Google Play services
• ลองใช้ LiteRT skill สำหรับ Android Studio
• หากมีข้อสงสัย ติดต่อได้ที่ GitHub Discussions หรือ แจ้งปัญหา (file an issue)