openEuler พัฒนา Linux ให้มอง AI Cluster เป็นคอมพิวเตอร์เครื่องเดียว

ตลอดระยะเวลาส่วนใหญ่ที่ผ่านมา Linux ถูกสร้างขึ้นบนสมมติฐานที่ว่า Kernel ทำหน้าที่จัดการคอมพิวเตอร์ที่มี CPU หน่วยความจำ และอุปกรณ์ต่างๆ ภายในกล่องใบเดียว แม้ระบบ Cluster จะมีอยู่จริง แต่การจัดการมักเป็นหน้าที่ของเลเยอร์ที่อยู่เหนือระบบปฏิบัติการ เช่น scheduler หรือ orchestrator

อย่างไรก็ตาม โครงสร้างพื้นฐาน AI ในปัจจุบันต้องการมากกว่านั้น ทั้งการฝึกฝน (training) และการอนุมาน (inference) มีการเชื่อมโยง CPU, NPU, GPU และ memory pool จำนวนมหาศาลเข้าด้วยกันจนทำงานเหมือนเป็นคอมพิวเตอร์เครื่องเดียวขนาดใหญ่ นอกจากนี้ยังมี AI agent ที่ไม่เพียงแค่รันโมเดล แต่ยังเรียกใช้เครื่องมือ สร้าง sandbox และเปิดเซสชันต่อเนื่องได้ทันที

นี่คือใจความสำคัญจากปาฐกถาโดย Xinwei Hu ประธานคณะกรรมการเทคนิคของ openEuler ในงาน Open Source Summit Europe 2026 ณ กรุงปราก ซึ่งได้แสดงให้เห็นว่า openEuler กำลังสร้างนวัตกรรมให้กับ Linux ในเรื่อง agentic scaling อย่างไร

ปัญหา: เซิร์ฟเวอร์ไม่ใช่หน่วยพื้นฐานอีกต่อไป

openEuler อธิบายถึงการก้าวข้ามขอบเขตจากโฮสต์เดี่ยวไปสู่ SuperPoD ซึ่งเป็นระบบที่เชื่อมต่อทรัพยากรจากหลายโหนดให้ทำงานเสมือนเป็นทรัพยากรก้อนเดียวกัน

โครงสร้างนี้สร้างโจทย์ใหม่ที่ OS แบบคลาสสิกไม่เคยรองรับ เช่น หน่วยความจำที่ต้องการอาจอยู่ที่โหนดอื่น ความผิดพลาดบนเครื่องหนึ่งอาจส่งผลกระทบต่อเนื่อง และการเคลื่อนย้ายข้อมูลกลายเป็นคอขวด Hu จึงตั้งเป้าหมายให้ openEuler แก้ไขปัญหาในสามด้าน คือ ความง่ายในการใช้งาน, ความน่าเชื่อถือ และประสิทธิภาพ

SuperPoD OS: ทำให้ตู้แร็คดูเหมือนเซิร์ฟเวอร์เครื่องเดียว

openEuler ต้องการให้ runtime และ SDK ทำงานบนฮาร์ดแวร์ SuperPoD ได้ทันที โดยมี agent คอยช่วยเหลือเพื่อให้จัดการระบบได้เสมือนเป็นเซิร์ฟเวอร์เครื่องเดียว ด้านความน่าเชื่อถือ ระบบสามารถแจ้งเตือนโหนดอื่นเมื่อเกิดการล้มเหลวด้วย latency เพียง 500 ms หรือน้อยกว่า พร้อมระบบแยกส่วนความผิดพลาด (isolate faults) เพื่อไม่ให้ลุกลาม

นอกจากนี้ยังมีระบบ "การยับยั้งพายุความผิดพลาด" (fault storm suppression) เพื่อตอบสนองต่อความผิดพลาดของหน่วยความจำระยะไกลอย่างรวดเร็ว ป้องกันไม่ให้การหลั่งไหลของ ข้อผิดพลาด SEA ทำให้ระบบหยุดชะงัก

ในด้านประสิทธิภาพ โครงสร้างพื้นฐาน UMDK ช่วยลดความหน่วงของ RPC ลงได้ 20% และการใช้ asynchronous pipeline ร่วมกับหน่วยความจำแบบเอกภาพ ช่วยลดความหน่วงของ RH2D ในการทำงานของ KV cache ลงได้อีก 20% โดยทั้งหมดรันบน UnifiedBus โปรโตคอลการเชื่อมต่อที่รวมเอาความสามารถด้าน memory pooling และการสื่อสารระหว่างโหนดเข้าไว้ด้วยกัน

แอปพลิเคชันทั่วไปยังคงใช้ POSIX API มาตรฐานในการเรียกใช้งานได้แบบโปร่งใส ในขณะที่แอปพลิเคชัน AI สามารถใช้ UB Service Core API ได้โดยตรง หากต้องการหน่วยความจำเพิ่ม UBS Engine จะค้นหาและดึงทรัพยากรจากเซิร์ฟเวอร์เครื่องอื่นมาให้ทันที (อ่านรายละเอียด UnifiedBus เพิ่มเติมได้ที่ ที่นี่)

สถานะของ Linux สายหลัก (Mainline)

Linux สายหลักเองก็มีการพัฒนาด้านหน่วยความจำผ่าน CXL เพื่อให้เซิร์ฟเวอร์แชร์หน่วยความจำนอกเมนบอร์ดได้ โดยนำเสนอในรูปแบบโหนด NUMA ซึ่งเป็นแนวคิดที่คล้ายกับ POSIX ของ openEuler

ความแตกต่างสำคัญคือ Linux สายหลักมักจัดการหน่วยความจำที่เชื่อมต่อกับโฮสต์เดียว แต่ SuperPoD OS พยายามประสานงานทั้งหน่วยความจำ อุปกรณ์ และความผิดพลาดข้ามหลายโฮสต์พร้อมกัน แม้ปัจจุบันจะยังใช้การเชื่อมต่อของ Huawei เป็นหลักแทนที่จะเป็นมาตรฐานกลางก็ตาม

Agentic Scaling: OS สำหรับภาระงานที่คิดเป็นลูป

Hu แบ่งการเติบโตของ AI เป็นสามระยะ จากยุคเน้นขนาดโมเดล มาสู่ยุคการขยายตัวในช่วงเวลาทดสอบ และเข้าสู่ระยะ Agentic Scaling ที่เน้นสร้างสถาปัตยกรรมตามพฤติกรรมจริงของ agent เพื่อควบคุมต้นทุน

แนวคิดนี้มุ่งเป้าไปที่โมเดลแบบ open-weight เช่น DeepSeek หรือ Llama โดยมองว่าควรใช้การควบคุมจากการรันโมเดลในท้องถิ่นเพื่อสร้างความฉลาดระดับระบบ ซึ่ง agent จะต้องรันเครื่องมือ ประมวลผลโค้ด และจัดการความจำข้ามเซสชัน ซึ่งล้วนเป็นหน้าที่ของ OS ในสามส่วนหลัก:

Sandboxes: openEuler รองรับ Firecracker, gVisor และอื่นๆ พร้อมระบบ prewarmed pools ที่ช่วยให้ cold start เร็วถึง 20 ms (ลดลง 70-95%) และรองรับ sandbox พร้อมกันกว่า 2,000 แห่ง

KV cache: ระบบแบ่งการเก็บข้อมูลเป็น 4 ระดับ ตั้งแต่ HBM บนตัวเร่งความเร็วไปจนถึง SSD พร้อมดัชนีสากลที่ช่วยให้ instance อื่นนำ cache กลับมาใช้ใหม่ได้ ช่วยลดเวลาจนถึง token แรกได้ 30-70% และเพิ่ม throughput ได้ 1.5-3 เท่า

Agent memory: ใช้ oGMemory ที่สร้างบนฐานข้อมูล openGauss รองรับการค้นหาหลายรูปแบบ ช่วยลดภาระ token ลงครึ่งหนึ่งและเพิ่มอัตราการทำงานสำเร็จ 20%

สิ่งนี้มีความหมายอย่างไรต่อ Linux

นิยามของ "คอมพิวเตอร์" ที่ OS ต้องจัดการกำลังเปลี่ยนไป และ openEuler เป็นหนึ่งในไม่กี่ distribution ที่กำลังพัฒนาเรื่องนี้อย่างจริงจัง อย่างไรก็ตาม UnifiedBus และฮาร์ดแวร์อย่าง TaiShan ยังมีความผูกพันกับระบบนิเวศของ Huawei สูง

บททดสอบสำคัญคือ นวัตกรรมเหล่านี้จะถูกผลักดันเข้าสู่ Linux สายหลักได้มากน้อยเพียงใด และจะทำงานร่วมกับมาตรฐานกลางอย่าง CXL ได้อย่างไร แต่นี่คือคำถามสำคัญที่ทุก distribution ต้องหาคำตอบในอนาคตอันใกล้แน่นอน