Google Research เปิดตัว ME-POIs: เฟรมเวิร์กผสานข้อมูลการเคลื่อนที่มนุษย์เข้ากับ AI แผนที่ เพื่อความเข้าใจสถานที่ที่ลึกซึ้งกว่าเดิม

ทีมวิจัยจาก Google Research และ USC ได้เปิดตัว Mobility-Embedded POIs (ME-POIs) เฟรมเวิร์กที่รวมข้อมูลการเคลื่อนที่ของมนุษย์แบบสรุปยอดเข้ากับ text-based place embeddings โดยมีสมมติฐานว่าโมเดลภาษาในปัจจุบันสามารถอธิบายได้ว่าสถานที่นั้น คือ อะไร แต่ยังไม่เข้าใจว่ามีการ ใช้งาน อย่างไร

ตัวอย่างที่เห็นได้ชัดคือ ร้านกาแฟสองแห่งอาจถูกจัดอยู่ในหมวดหมู่เดียวกันและตั้งอยู่ในบล็อกเดียวกันจนทำให้มีเวกเตอร์ข้อความเหมือนกัน แต่ร้านหนึ่งอาจเน้นลูกค้าสัญจรที่มาไวไปไว ในขณะที่อีกร้านมีลูกค้าเข้ามานั่งทำงานนานกว่าเก้าสิบนาที ME-POIs จะเข้ามาแก้ปัญหานี้ด้วยการเข้ารหัสการเข้าชมแต่ละครั้งเป็นเวกเตอร์ตามบริบท จากนั้นใช้เทคนิค contrastive learning เพื่อจัดตำแหน่งข้อมูลการเข้าชมให้ตรงกับต้นแบบ (prototype) ที่เรียนรู้ได้หนึ่งรายการต่อหนึ่งสถานที่ (POI)

จากการทดสอบในลอสแอนเจลิสและฮิวสตันผ่านงานเพิ่มข้อมูลแผนที่ 5 รูปแบบ พบว่าการเพิ่ม ME-POIs เข้ากับตัวเข้ารหัสข้อความช่วยเพิ่มประสิทธิภาพได้ถึง 34 จาก 35 รายการในลอสแอนเจลิส โดยให้ค่า F1 สูงขึ้นถึง 81.9% ในการระบุความตั้งใจในการเข้าชม (visit intent) และลดความคลาดเคลื่อน (MAE) ลง 24.7% ในเรื่องการคาดการณ์ความหนาแน่น นอกจากนี้ รุ่นที่ฝึกด้วยข้อมูลการเคลื่อนที่เพียงอย่างเดียวขังสามารถเอาชนะ Gemini embeddings ในการจำแนกประเภทระดับราคาของสถานที่ได้อีกด้วย

Is it deployable?

เฟรมเวิร์กนี้ยังเป็นเพียงงานวิจัยที่คุณต้องสร้างขึ้นใหม่ ไม่ใช่โมเดลสำเร็จรูป (checkpoint) ที่ดาวน์โหลดมาใช้งานได้ทันที แม้ว่า Google Research จะเผยแพร่ งานวิจัย ฉบับเต็มแล้ว แต่ยังไม่มีการปล่อยโค้ดหรือน้ำหนักโมเดลสู่สาธารณะ

ในแง่ของทรัพยากรการคำนวณถือว่าอยู่ในระดับต่ำ โดยโมเดลมีพารามิเตอร์ประมาณ 53.7 ล้านรายการ และถูกฝึกเบื้องต้นบน NVIDIA Tesla V100 16GB เพียงตัวเดียว แต่อุปสรรคสำคัญคือการเข้าถึงข้อมูล เพราะจำเป็นต้องมีข้อมูลการสัญจรที่ได้รับอนุญาตหรือบันทึกการเข้าชมโดยตรง รวมถึงพิกัดรูปทรงหลายเหลี่ยมของสถานที่ (POI polygons) ที่แม่นยำ

How the framework works

การเข้าชมแต่ละครั้งจะประกอบด้วยข้อมูลสามส่วนหลัก ได้แก่ พิกัด, เวลาที่มาถึง และเวลาที่ออก ซึ่งจะถูกจัดการโดยตัวเข้ารหัสที่แยกปัจจัยสามตัว คือ Space2Vec สำหรับตำแหน่งหลายระดับ และ Time2Vec สองตัวสำหรับเวลาเข้าและออก เพื่อให้ระยะเวลาการเข้าชมยังคงแยกแยะได้ เวกเตอร์ที่ได้จะผ่านกระบวนการ sinusoidal positional encoding และเข้าสู่ Transformer แบบ 4 ชั้น 8 หัว เพื่อสร้าง visit embeddings ตามบริบท

เป้าหมายหลักคือการใช้ InfoNCE loss เพื่อดึง visit embedding ของแต่ละสถานที่เข้าหาต้นแบบที่เรียนรู้ได้ของตัวเอง ในขณะที่ผลักข้อมูลของสถานที่อื่นๆ ออกไป ทำให้ต้นแบบนี้กลายเป็นจุดศูนย์กลางเชิงฟังก์ชันที่สะท้อนตารางเวลาการใช้งานของผู้ใช้โดยรวม

สำหรับการจัดการปัญหาข้อมูลเบาบาง (Sparsity) เนื่องจากมี POI เพียงไม่กี่เปอร์เซ็นต์ที่มีข้อมูลการเข้าชมหนาแน่น ME-POIs จึงใช้วิธีถ่ายโอนฮิสโตแกรมการเข้าชมจากจุดยึด (anchors) ไปยังกลุ่ม POI ที่มีข้อมูลน้อยผ่าน Gaussian kernels ในสามระดับระยะทาง (0.3 กม., 1.0 กม., และ 3.0 กม.) พร้อมใช้ค่า KL loss เพื่อกำกับดูแลความแม่นยำ และเพิ่มความคล้ายคลึงของโคไซน์กับ text embeddings ที่สร้างขึ้นตามสูตรของ GeoLLM

What the numbers say

การประเมินผลใช้ชุดข้อมูลการเคลื่อนที่แบบไม่ระบุตัวตนจากลอสแอนเจลิสและฮิวสตัน โดยอ้างอิงข้อมูลฉลากจาก SafeGraph และ Google Maps เพื่อทดสอบใน 5 ด้านสำคัญ ผลลัพธ์ในลอสแอนเจลิสแสดงให้เห็นว่าประสิทธิภาพเพิ่มขึ้นอย่างมีนัยสำคัญในทุกโมเดล ไม่ว่าจะเป็นการเพิ่มค่า F1 ขึ้น 16.2% ในเรื่องเวลาเปิดทำการเมื่อใช้ร่วมกับ OpenAI-large หรือเพิ่มขึ้น 81.9% เมื่อใช้ร่วมกับ Gemini ในเรื่องความตั้งใจในการเข้าชม

สิ่งที่น่าประหลาดใจคือ โมเดลที่ใช้เพียงข้อมูลการเคลื่อนที่โดยไม่ใช้ข้อความเลย สามารถทำความแม่นยำในการระบุระดับราคาในลอสแอนเจลิสได้ที่ 0.600 ซึ่งสูงกว่า Gemini ที่ทำได้ 0.559 สะท้อนให้เห็นว่าพฤติกรรมการใช้งานจริงของมนุษย์สามารถบ่งบอกระดับราคาของสถานที่ได้ดีกว่าการวิเคราะห์จากชื่อหรือคำบรรยายสถานที่เพียงอย่างเดียว

Key Takeaways

• ME-POIs เน้นเรียนรู้เวกเตอร์ที่สะท้อนคุณลักษณะเฉพาะของสถานที่ โดยไม่ขึ้นกับเส้นทางสัญจร
• ระบบสามารถแก้ปัญหาข้อมูลเบาบางได้ดีเยี่ยม ซึ่งมีความสำคัญมากเพราะ POI กว่า 91% ในเมืองใหญ่มักมีข้อมูลการเข้าชมไม่เพียงพอ
• ให้ประสิทธิภาพโดดเด่นในการระบุเจตนาการเข้าชมและความหนาแน่นของสถานที่
• ข้อมูลการเคลื่อนที่เพียงอย่างเดียว (Mobility-only) สามารถให้ผลลัพธ์ที่ดีกว่า Gemini text embeddings ในบางมิติ เช่น ระดับราคา
• อุปสรรคหลักในการนำไปใช้คือการครอบครองข้อมูลการสัญจรที่ได้รับอนุญาต ไม่ใช่เรื่องของพลังประมวลผล

Check out the Paper and Technical details. Feel free to check out our GitHub Page for Tutorials, Codes and Notebooks.

Also, feel free to follow us on ** Twitter** and don’t forget to join our

and Subscribe to