Google เปิดตัว ML Drift เอนจิน GPU ยุคใหม่ เร่งความเร็ว AI บน Edge

8 ต.ค. 2026

ทีม Google AI Edge ประกาศเปิดตัว ML Drift อย่างเป็นทางการในรูปแบบโอเพนซอร์สภายใต้ใบอนุญาต Apache 2.0 โดยเป็นเอนจินคำนวณผ่าน GPU บนอุปกรณ์แบบข้ามแพลตฟอร์มที่ออกแบบมาเพื่อ AI/ML inference โดยเฉพาะ

ด้วยการลดความซับซ้อนของฮาร์ดแวร์และ low-level API อย่าง OpenGL ES, OpenCL, Metal และ WebGPU ทำให้ ML Drift ช่วยให้นักพัฒนาสร้างประสบการณ์ ML แบบเรียลไทม์ได้ลื่นไหล ตั้งแต่เอฟเฟกต์วิดีโอไปจนถึง Generative AI โดยปัจจุบันทำหน้าที่เป็นเอนจินหลักใน LiteRT และพร้อมใช้งานแบบไลบรารีสแตนด์อโลนเพื่อประสิทธิภาพสูงสุดทุกที่

ความหลากหลายของฮาร์ดแวร์ในอุปกรณ์ Edge ถือเป็นความท้าทายหลักที่ต่างจากดาต้าเซ็นเตอร์ นักพัฒนาต้องเผชิญกับสถาปัตยกรรม GPU และไดรเวอร์ที่แตกต่างกันอย่างมาก แม้ TensorFlow Lite GPU delegate จะเคยวางรากฐานไว้ แต่เวิร์กโหลดในปัจจุบันขยายไปไกลถึงโมเดลประมวลผลความลึกและ Generative AI ที่มีพารามิเตอร์สูง ซึ่งผลักดันชิปเซ็ตจนถึงขีดจำกัดและเกิดคอขวดด้านหน่วยความจำ

การเปลี่ยนแปลงนี้จำเป็นต้องมีรากฐานวิศวกรรมสากลเพื่อให้พอร์ตงานได้ง่ายและมีประสิทธิภาพ ตามหลักการจากบทความ "Speed is all you need" Google จึงสร้างเฟรมเวิร์กหนึ่งเดียวที่มอบความเสถียรให้ ML แบบดั้งเดิมและมอบพลังสูงสุดให้ Generative AI รุ่นใหม่ เพื่อให้บรรลุเป้าหมายดังกล่าว ML Drift ได้นำเสนอการอัปเกรดโครงสร้างที่สำคัญเหนือ TFLite GPU delegate รุ่นเก่าดังนี้:

Unified Shaders via Tensor Virtualization: ในอดีตการปรับแต่ง shader ต้องแยกทำตาม backend ของแต่ละ API แต่ ML Drift ใช้ระบบ Tensor Virtualization ที่แยกการแสดงผลทางตรรกะออกจากความจุทางกายภาพบน GPU ช่วยลดความซ้ำซ้อนของ Codebase โดยไม่เสียประสิทธิภาพ

Extensible Custom Op Framework: มาพร้อม API สำหรับลงทะเบียนและเข้าถึงภาษา shading ระดับล่างได้โดยตรง พร้อมคู่มือ SKILL.md แบบ agentic ที่ช่วยให้ coding agent สามารถสร้างและตรวจสอบ shader แบบกำหนดเองได้ภายในไม่กี่นาที

การรองรับ 5D Tensor: ML Drift ทลายข้อจำกัดเดิมที่รองรับเพียง 4D โดยฟีเจอร์นี้ใน LiteRT ML Drift GPU accelerator ช่วยให้ประมวลผลโมเดลที่ซับซ้อนอย่าง 3D convolutional network หรือ Swin Transformer v2 บน Edge ได้ทันที

การอัปเกรดประสิทธิภาพสำหรับโมเดลแบบดั้งเดิม: ในฐานะผู้สืบทอดโดยตรง ML Drift ช่วยเพิ่มความเร็วให้เวิร์กโหลดเดิมทันทีผ่านการปรับปรุงการรัน kernel และการแยกส่วนรันไทม์ออกจากข้อจำกัดฮาร์ดแวร์

Stage-aware Optimizations สำหรับ Edge LLMs: สำหรับโมเดลภาษาขนาดใหญ่ ML Drift จะสลับ kernel และเลย์เอาต์ตามระยะการประมวลผล โดยเน้นการคำนวณในช่วง prefill และเน้นแบนด์วิดท์ในช่วง decode พร้อมใช้ activation quantization เพื่อลดการส่งข้อมูลหน่วยความจำที่ซ้ำซ้อน

ในการทดสอบ Gemma4 E2B พบว่าทำงานได้ดีกว่าบนเฟรมเวิร์กที่รองรับ cross KV sharing โดยมีค่า throughput ทั้งช่วง prefill และ decode ที่โดดเด่น

นอกจากนี้ ML Drift ยังขยายการรองรับไปถึงเดสก์ท็อปผ่าน Dawn ซึ่งเป็นการนำ WebGPU ของ Chromium มาใช้ ทำให้สามารถรันโมเดลบน Windows, Linux และ macOS ได้โดยใช้ codebase เดียวกัน ซึ่งมีความสำคัญอย่างยิ่งต่อการพัฒนา local coding agents ในปัจจุบัน

ผลการทดสอบโมเดล Gemma บนฮาร์ดแวร์เวิร์กสเตชันแสดงให้เห็นว่า ML Drift ไม่เพียงแต่ให้ความเร็วสูง แต่ยังประหยัดหน่วยความจำได้มากกว่าเฟรมเวิร์กอื่นถึง 12% ช่วยให้สามารถรันงานหลายอย่างพร้อมกันได้จริงในอุปกรณ์ที่มีทรัพยากรจำกัด

ปัจจุบัน ML Drift ถูกใช้งานจริงในผลิตภัณฑ์ของ Google หลายล้านเครื่อง เช่น YouTube Shorts ที่ลดความหน่วงเฟรมลง 40%, Google Photos ที่ประมวลผลภาพเร็วขึ้น 2 วินาที และ Google Chrome ที่ใช้ขับเคลื่อน Gemini Nano สำหรับ Built-in AI ต่างๆ

ในภาคธุรกิจ Adobe Lightroom และ Snapchat ได้นำ ML Drift ไปใช้เพื่อเพิ่มความเร็วในการประมวลผล AI บนมือถือ โดย Snapchat พบว่าความหน่วงของโมเดลลดลงถึง 30% สำหรับเอฟเฟกต์ที่ใช้ ML ในเลนส์

Google ยังได้ร่วมมือกับพันธมิตรชิปเซ็ตชั้นนำเพื่อรีดประสิทธิภาพฮาร์ดแวร์ให้สูงสุด:

• Arm: ปรับแต่ง compute kernel สำหรับ GPU Mali และ Immortalis
• Intel: ใช้ WebGPU และ Xe Matrix Extensions (XMX) บนโปรเซสเซอร์ Intel® Core™ Ultra
• Qualcomm Technologies, Inc.: ปรับแต่ง OpenCL kernel เพื่อการใช้งาน ALU สูงสุดบน GPU Adreno

การเปิดตัวครั้งนี้ส่งผลให้ TFLite GPU delegate รุ่นเก่าจะหยุดการอัปเดตฟีเจอร์ใหม่ นักพัฒนาจึงควรเปลี่ยนมาใช้ LiteRT ML Drift GPU accelerator ซึ่งรองรับโมเดลเดิมได้เต็มรูปแบบและให้ประสิทธิภาพที่เหนือกว่าทั้งบน Android, iOS, Web และเดสก์ท็อป

สำหรับนักพัฒนาที่สนใจ สามารถเริ่มต้นได้สองทางคือ ใช้ผ่าน LiteRT ML Drift accelerator สำหรับแอปพลิเคชันทั่วไป หรือสร้างผ่าน C++ API โดยตรงที่ ML Drift GitHub repository สำหรับวิศวกรที่ต้องการปรับแต่งระบบเชิงลึก

ชุมชนนักพัฒนาสามารถมีส่วนร่วมและส่งข้อเสนอแนะได้ที่:

• ซอร์สโค้ด: github.com/google-ai-edge/ml-drift
• รายงานปัญหา: ส่งปัญหาบน GitHub
• การสนทนา: Google AI Edge Community Forum

Google ขอขอบคุณทีมงานและพันธมิตรทุกคนที่มีส่วนร่วมในการผลักดันให้ ML Drift กลายเป็นมาตรฐานใหม่ของการประมวลผล AI บนอุปกรณ์ Edge