Google Research เปิดตัว GlucoFM: โมเดลจิ๋ว 0.72M พารามิเตอร์ ปฏิวัติการติดตามระดับน้ำตาลในเลือดด้วยระบบ Dual-Stream

Google Research เปิดตัว GlucoFM: โมเดลจิ๋ว 0.72M พารามิเตอร์ ปฏิวัติการติดตามระดับน้ำตาลในเลือดด้วยระบบ Dual-Stream

Google Research และ UNSW Sydney ได้เผยแพร่ GlucoFM ซึ่งเป็น self-supervised foundation model สำหรับ continuous glucose monitoring (CGM) โดยมีนวัตกรรมหลักคือการแยกส่วนการวิเคราะห์ข้อมูล

โมเดล CGM แบบเดิมอย่าง CGMformer, GluFormer และ CGM-JEPA มักจะเข้ารหัสข้อมูลระดับน้ำตาลเป็นลำดับเดียวที่พันกันยุ่งเหยิง แต่ GlucoFM เลือกที่จะแยกข้อมูลออกเป็นสองสาย ได้แก่ สายข้อมูล "state" ทางสรีรวิทยาที่เปลี่ยนแปลงอย่างช้าๆ และสายข้อมูล "event" ที่เกิดขึ้นชั่วคราว โดยยังคงรักษา observation mask ไว้อย่างครบถ้วน

ตัวโมเดลถูก pretrain ด้วยวัตถุประสงค์ latent แบบ JEPA สองรายการ ส่งผลให้ได้ encoder ขนาดเพียง 0.72M พารามิเตอร์ ซึ่งสามารถทำค่า PR-AUC เฉลี่ยได้ 58.8 จากการประเมิน 14 cohort–task เทียบกับ 54.7 สำหรับ baseline เฉพาะทาง CGM ที่แข็งแกร่งที่สุด โดยใช้ข้อมูล CGM ที่ไม่มีลาเบลจำนวน 109,066 ชั่วโมงจากอาสาสมัคร 477 คน และใช้หน่วยประมวลผล H100 เพียงเครื่องเดียวในการเทรน

มันสามารถนำไปใช้งานได้จริงหรือยัง?

ปัจจุบัน GlucoFM ยังคงเป็นเพียงโปรโตไทป์เพื่องานวิจัยเท่านั้น ยังไม่ได้รับการตรวจสอบหรืออนุมัติจากหน่วยงานกำกับดูแลใดๆ และไม่ได้มีไว้เพื่อวินิจฉัย บำบัด รักษา หรือป้องกันโรค โดยการประเมินทั้งหมดเป็นการศึกษาย้อนหลัง (retrospective) และยังไม่มีการปล่อย checkpoint ณ วันที่ 26 สิงหาคม 2026 อย่างไรก็ตาม ทีมวิจัยระบุว่าจะมีการปล่อยโค้ดและสคริปต์สำหรับการทำซ้ำ (reproducibility scripts) ในอนาคต

สิ่งที่นักพัฒนาสามารถนำไปใช้ได้ในวันนี้คือ "สูตรการสร้าง" (recipe) ด้วยพารามิเตอร์ที่เทรนได้ 0.72M และการเทรน 120 epochs บน NVIDIA H100 เพียงเครื่องเดียว ซึ่งหมายความว่าทีมใดที่มีชุดข้อมูล CGM ก็สามารถสร้างโมเดลนี้ขึ้นมาใหม่ได้ และการประมวลผล (inference) ข้อมูลในหน้าต่างเวลา 24 ชั่วโมงยังสามารถรันบน CPU ทั่วไปหรือบนตัวอุปกรณ์ได้โดยตรง

ปัญหาของการจัดการ CGM ให้เป็นสัญญาณเดียว

ข้อมูล CGM มีความซับซ้อนเพราะประกอบด้วยข้อมูลสองประเภทที่เกิดขึ้นพร้อมกัน คือค่าพื้นฐานการควบคุมที่เปลี่ยนไปอย่างช้าๆ และการเบี่ยงเบนชั่วคราวในช่วงสั้นๆ ที่เกิดจากมื้ออาหาร กิจกรรม ความเครียด หรือแม้แต่สัญญาณรบกวนจากเซ็นเซอร์ นอกจากนี้ ลาเบลทางคลินิกยังมีราคาแพงและเฉพาะเจาะจงกับแต่ละกลุ่มประชากร ซึ่งเป็นข้อจำกัดสำคัญในการเทรนโมเดลแบบ supervised แบบเดิม

สถาปัตยกรรม (Architecture)

GlucoFM จัดเรียงการบันทึกข้อมูลเข้ากับตารางเวลา 24 ชั่วโมงที่คงที่ (Δt = 5 นาที) ทำให้ได้ตำแหน่ง L = 288 และรักษาดัชนีจุดเริ่มต้นตามรอบวัน (circadian start index) ที่แท้จริงไว้ โดยใช้ causal, mask-aware learnable Gaussian filter ในการแยกสัญญาณออกเป็นแนวโน้ม (trend) ซึ่งจะกลายเป็นสายข้อมูล state และค่าที่เหลือ (residual) ซึ่งจะเป็นสายข้อมูล event การใช้ one-sided kernel ช่วยรับประกันความเป็นเหตุเป็นผล ทำให้ค่าระดับน้ำตาลในอนาคตไม่หลุดรอดเข้ามาในการประมาณค่าปัจจุบัน

ทั้งสองสายข้อมูลจะถูกเปลี่ยนเป็นโทเคน (tokenized) ในรูปแบบ patch หนึ่งชั่วโมงจำนวน 24 ชิ้น ผสมรวมกันเป็นโทเคนขนาด 128 มิติ พร้อมใส่ฟีเจอร์ช่วงเวลาของวันแบบ circular ตัว encoder ใช้ Transformer 3 ชั้น ที่มีพารามิเตอร์ทั้งหมด 1.18M การเทรนใช้ชุดข้อมูลหลากหลาย เช่น Wear-CGM, ShanghaiT2DM, Stanford, BIG IDEAs และ Colas

ผลลัพธ์

ในการประเมิน 14 cohort–task นั้น GlucoFM ทำค่า PR-AUC เฉลี่ยได้ 58.8 ซึ่งสูงกว่า baseline เฉพาะทางที่ทำได้ 54.7 และสูงกว่า GluFormer ถึง 5.8 จุด โมเดลนี้โดดเด่นอย่างมากในการประเมินความเสี่ยงโรคเบาหวาน ความผิดปกติของเซลล์เบต้า และภาวะดื้ออินซูลิน โดยครองอันดับหนึ่งใน 21 จาก 24 การประเมินการโอนย้ายข้อมูลข้ามชุดข้อมูล (cross-dataset transfer)

สำหรับการทำนายการตอบสนองของระดับน้ำตาลหลังมื้ออาหารสองชั่วโมง GlucoFM ทำค่า MAE ได้ 21.88 mg/dL ซึ่งแม่นยำกว่าค่าเฉลี่ยของกลุ่มที่ใช้เทรนซึ่งอยู่ที่ 27.69 mg/dL อย่างเห็นได้ชัด โดยวัดจากเหตุการณ์มื้ออาหาร 874 มื้อผ่านเซ็นเซอร์ Dexcom และ Libre นอกจากนี้ แม้จะใช้ข้อมูลเพียง 20% ของชุดข้อมูลทั้งหมดในการเทรน มันยังสามารถทำผลงานได้เทียบเท่ากับโมเดลอื่นที่ใช้ข้อมูลเต็มจำนวน

ประเด็นสำคัญ

  • GlucoFM แยกข้อมูล CGM ออกเป็นสายข้อมูล "state" ที่เปลี่ยนช้า และ "event" ที่เกิดชั่วคราว เพื่อความแม่นยำที่สูงขึ้น
  • ใช้พารามิเตอร์เพียง 0.72M แต่สามารถเอาชนะโมเดลขนาดใหญ่อย่าง GluFormer (135M) และ MOMENT (385M) ได้
  • ทำผลงานได้ดีเยี่ยมในภารกิจหลักทางคลินิก เช่น ความเสี่ยงโรคเบาหวาน และภาวะดื้ออินซูลิน
  • ปัจจุบันยังเป็นโปรโตไทป์เพื่องานวิจัยและยังไม่มีการปล่อย checkpoint ต่อสาธารณะ
Source: MarkTechPost
ดูแลงานแปลและเรียบเรียงโดย TanasakP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร