นักวิจัยต่อยอด JEPA AI สู่โมเดลโลกอเนกประสงค์ ครอบคลุมฟิสิกส์ถึงชีววิทยา

· By: AttapolK

Image description

ประเด็นสำคัญ

  • โมเดล AI ใหม่ชื่อ JEPA-Anything พัฒนาต่อยอดจากสถาปัตยกรรมของ Yann LeCun เพื่อเป็นโมเดลโลก (World Model) ที่ใช้งานได้ข้ามสายงาน ทั้งฟิสิกส์ หุ่นยนต์ และการแพทย์
  • ใช้วิธีแบ่งการคาดการณ์สถานะในอนาคตออกเป็นส่วนย่อยหลายส่วน แทนการคาดการณ์แบบรวมชุดเดียว ทำให้ตรวจพบรูปแบบที่โมเดลมาตรฐานทั่วไปอาจมองข้าม
  • โมเดลสามารถระบุแนวทางการรักษาโรคมะเร็งตับที่ให้ผลลัพธ์ดีกว่าการใช้สารตัวเดียว โดยผ่านการทดสอบเบื้องต้นในห้องปฏิบัติการและหนูทดลองแล้ว

นักวิจัยได้ขยายขีดความสามารถของสถาปัตยกรรม JEPA ที่บุกเบิกโดย Yann LeCun ให้สามารถทำงานครอบคลุม 7 สาขาที่แตกต่างกันอย่างสิ้นเชิง โดยความสำเร็จนี้รวมถึงการค้นพบแนวทางรักษาโรคมะเร็งตับที่ทีมงานได้นำไปทดสอบจริงในแล็บ

โมเดลโลก (World models) มีบทบาทสำคัญในการคาดการณ์ทิศทางของระบบต่างๆ ไม่ว่าจะเป็นการเคลื่อนที่ของหุ่นยนต์ พฤติกรรมโมเลกุล หรือสภาวะสุขภาพของผู้ป่วย ซึ่งในอดีตแต่ละสาขาจำเป็นต้องใช้โมเดลเฉพาะทางแยกจากกัน แต่ทีมวิจัยจาก PhAI Labs ร่วมกับ Stanford, Oxford และ Princeton ต้องการพิสูจน์ว่าหลักการเดียวสามารถประยุกต์ใช้ได้กับทุกโดเมน

งานวิจัย ของพวกเขาได้นำเสนอ JEPA-Anything ซึ่งสร้างขึ้นบนโครงสร้าง Joint-Embedding Predictive Architectures (JEPA) โดยโมเดลนี้จะไม่เน้นการสร้างข้อมูลดิบอย่างพิกเซลขึ้นมาใหม่ แต่จะคาดการณ์บทสรุปเชิงนามธรรมของสถานะที่ขาดหายไปหรือสถานะในอนาคตเพื่อกรองรายละเอียดที่ไม่จำเป็นออก ซึ่งทีมวิจัยมองว่าการคาดการณ์แบบรวมศูนย์ในโมเดลมาตรฐานเดิม มักจะทำให้รูปแบบที่ง่ายไปบดบังรูปแบบที่ซับซ้อนกว่า

การคาดการณ์เฉพาะทางหลายส่วนแทนที่จะเป็นหนึ่งเดียว

JEPA-Anything แก้ปัญหาด้วยการแบ่งสถานะที่ต้องคาดการณ์ออกเป็นหลายส่วน โดยแต่ละส่วนจะมีโมดูลการคาดการณ์ของตัวเอง ข้อจำกัดที่ถูกเพิ่มเข้าไปจะช่วยผลักดันให้แต่ละโมดูลเรียนรู้แง่มุมที่แตกต่างกัน จากนั้นโมเดลจะรวมการคาดการณ์ย่อยๆ เหล่านั้นกลับมาเป็นภาพรวมที่สมบูรณ์

Overview graphic of JEPA-Anything. The top row shows seven domains from vision to weather. Below, standard JEPA with a single predictor is compared to the JEPA-Anything approach with four separate predictors. Three evaluation groups for terminal readout, latent world dynamics, and scientific analysis follow at the bottom.

ทั้งนี้ นักวิจัยไม่ได้กำหนดหน้าที่ตายตัวให้กับแต่ละส่วน แต่ปล่อยให้โมเดลจัดสรรบทบาทเองในระหว่างการฝึกฝน โดยทีมงานเพียงแค่เปลี่ยนวิธีการเตรียมข้อมูลให้เหมาะสมกับแต่ละสาขาวิชาเท่านั้น

ประสิทธิภาพที่เพิ่มขึ้นในงานไดนามิกและหุ่นยนต์

จากการทดสอบเปรียบเทียบกับ JEPA มาตรฐานภายใต้เงื่อนไขเดียวกัน พบว่า JEPA-Anything มีประสิทธิภาพโดดเด่นในระบบไดนามิก โดยในการจำลองเกม Pong แบบย่อส่วนที่มีการแทรกแซงเฉพาะจุด ค่าความผิดพลาดในการคาดการณ์ลดลงถึง 35% ส่วนในกรณีที่โมเดลไม่เคยเห็นมาก่อน ค่าความผิดพลาดก็ยังลดลงได้ 13%

นอกจากนี้ JEPA-Anything ยังทำคะแนนได้เหนือกว่าเกณฑ์มาตรฐานใน 10 ภารกิจทดสอบ เช่น ฟิสิกส์และการพยากรณ์อากาศ โดยเฉพาะในสมการ Burgers ซึ่งเป็นมาตรฐานของพลศาสตร์ของไหล ค่าความผิดพลาดลดลงเกือบครึ่งหนึ่ง และยังทำผลงานได้ดีที่สุดในการจำลองน้ำ ควอตซ์ อะเซตามิโนเฟน และเบนซีน

The bar chart on the left shows the relative MSE reduction of JEPA-Anything compared to standard JEPA across nine tasks, from 39.7 percent for Burgers to 0.4 percent for DMC pixel dynamics. The chart on the right shows the closed-loop return in CausalWorld with error bars.

ในด้านชีววิทยา โมเดลสามารถระบุประเภทเซลล์ได้แม่นยำขึ้น และคาดการณ์ความเสี่ยงโรคได้ดีกว่าเดิมเล็กน้อย ส่วนในด้านหุ่นยนต์ JEPA-Anything สามารถเอาชนะใน 2 จาก 3 สภาพแวดล้อมการจำลองการเดินของหุ่นยนต์

การค้นพบแนวทางการรักษามะเร็งตับ

หนึ่งในความสำเร็จที่น่าสนใจที่สุดคือการวิจัยมะเร็งตับ โมเดลได้วิเคราะห์ข้อมูลทางชีวภาพและเสนอแนวทางการรักษาด้วยการใช้ IL-18 (โมเลกุลกระตุ้นภูมิคุ้มกัน) ร่วมกับการยับยั้งเอนไซม์ CD73 (สิ่งที่เนื้องอกใช้กดภูมิคุ้มกัน) ซึ่งผลการทดสอบในออร์แกนอยด์ เนื้อเยื่อจากผู้ป่วย และหนูทดลอง พบว่าการรักษาแบบผสมผสานนี้ฆ่าเซลล์เนื้องอกได้มากกว่าการใช้สารเพียงชนิดเดียวอย่างชัดเจน อย่างไรก็ตาม ยังต้องรอการพิสูจน์ว่าจะสามารถใช้เป็นแนวทางการรักษาจริงในมนุษย์ได้หรือไม่

Bar charts showing results from patient-derived organoids and tumor fragments from three liver cancer patients. The charts compare the share of killed tumor cells and activated immune cells across four conditions: control, IL-18, CD73 inhibitor, and the combination of both.

นอกจากนี้ เมื่อฝึกฝนโมเดลเกี่ยวกับวงโคจรโดยไม่มีการป้อนค่าทางฟิสิกส์ โมเดลสามารถเรียนรู้กฎข้อที่สามของเคปเลอร์ได้ใกล้เคียงความจริงมาก โดยคำนวณค่าได้ที่ยกกำลังลบ 1.4991 (ค่าจริงคือ -1.5)

แม้ผลลัพธ์จะน่าประทับใจ แต่นักวิจัยเตือนว่าการที่โมเดลเรียนรู้ส่วนประกอบต่างๆ ได้ ไม่ได้หมายความว่ามันเข้าใจความสัมพันธ์เชิงเหตุและผลที่แท้จริงเสมอไป เป้าหมายระยะยาวของทีมคือการพัฒนา AI เอเจนท์ที่ใช้ JEPA-Anything ในการเสนอและจัดลำดับความสำคัญของการทดลองทางวิทยาศาสตร์แบบครบวงจร โดยปัจจุบัน โค้ด และ โมเดล ได้ถูกเปิดเผยให้ใช้งานแบบสาธารณะแล้ว

Source: The Decoder
ดูแลงานแปลและเรียบเรียงโดย AttapolK

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร