NVIDIA เปิดตัว CUDA Rust สองแนวทางใหม่เพื่อการเขียน GPU Kernel ที่ปลอดภัยและมีประสิทธิภาพ

NVIDIA ได้ ประกาศเปิดตัว CUDA Rust เพื่อยกระดับให้ภาษา Rust กลายเป็นภาษาชั้นนำ (first-class language) สำหรับการเขียน GPU kernels โดยเฉพาะ จากเดิมที่โค้ด Rust มักถูกจำกัดให้ทำหน้าที่เพียงสั่งรัน kernel ที่เขียนด้วยภาษาอื่นเท่านั้น

การขับเคลื่อนครั้งนี้ทำผ่านโปรเจกต์โอเพนซอร์สสองโครงการจาก NVlabs ได้แก่ cuda-oxide สำหรับการเขียนโปรแกรมรูปแบบ SIMT และ cutile-rs สำหรับรูปแบบ Tile ซึ่งทั้งสองโครงการมุ่งเน้นการใช้กฎความเป็นเจ้าของ (ownership rules) ของ Rust เพื่อป้องกันปัญหาการใช้นามแฝงของข้อมูล (aliasing bugs) ตั้งแต่ขั้นตอน compile time

ในด้านการนำไปใช้งานจริงนั้น cutile-rs เริ่มมีบทบาทในวงการแล้ว โดยได้รับการ เผยแพร่บน crates.io และถูกนำไปใช้ในไลบรารีชื่อดังอย่าง Grout ของ Hugging Face และ mistral.rs ในขณะที่ cuda-oxide ยังอยู่ในช่วง early alpha ซึ่งทาง NVIDIA ย้ำว่าทั้งสองโปรเจกต์ยังไม่แนะนำให้ใช้ในงานระดับโปรดักชันในขณะนี้

ทำไมต้องใช้ Rust สำหรับ GPU Kernel

ปัจจุบันซอฟต์แวร์ระดับล่างของ AI ไม่ว่าจะเป็น inference engines หรือไดรเวอร์ ต่างเปลี่ยนมาใช้ Rust มากขึ้น เช่น ไดรเวอร์ Nova Linux และแกนกลางของ NVIDIA Dynamo การทำให้ GPU kernel รองรับ Rust จึงเป็นการเติมเต็มส่วนที่ขาดหายไปเพื่อให้ระบบนิเวศมีความปลอดภัยและมีประสิทธิภาพสูงสุด

แนวทางที่ NVIDIA เลือกใช้นั้นสะท้อนโมเดลการโปรแกรมสองแบบที่มีใน CUDA อยู่แล้ว โดย SIMT จะเหมือนกับใน CUDA C++ หรือ numba-cuda ที่เน้นการควบคุมระดับ thread ส่วน Tile เป็นโมเดลที่ใหม่กว่าซึ่งมีให้ใช้ใน C++ และ Python โดยนักพัฒนาเพียงระบุการทำงานของข้อมูลแต่ละชุด (tile) แล้วให้ Tile IR compiler จัดการเรื่อง thread และหน่วยความจำให้โดยอัตโนมัติ

แนวทาง SIMT: cuda-oxide

cuda-oxide ทำหน้าที่เป็น backend สำหรับการสร้างโค้ด (codegen) ของ rustc โดยจะส่งฟังก์ชันที่ระบุเป็น #[kernel] ผ่าน Rust MIR และเฟรมเวิร์ก Pliron ร่วมกับ LLVM เพื่อแปลงเป็น PTX สำหรับรันบน GPU ซึ่ง NVIDIA ยังได้พัฒนา GPU dialects เพิ่มเติมบน Pliron เพื่อเสริมการทำงานด้วย

การใช้งาน cuda-oxide จำเป็นต้องมีระบบที่รองรับ GPU compute capability 8.0 ขึ้นไป และใช้ Rust nightly toolchain รุ่นเฉพาะ (nightly-2026-04-03) นักพัฒนาสามารถใช้คำสั่ง cargo oxide doctor เพื่อตรวจสอบความพร้อมของระบบ หรือใช้ cargo oxide new เพื่อเริ่มสร้างโครงการใหม่ได้อย่างรวดเร็ว

จุดเด่นด้านความปลอดภัยอยู่ที่การตรวจสอบ kernel signature เช่น การใช้ DisjointSlice<f32> สำหรับข้อมูลขาออก เพื่อให้มั่นใจว่าแต่ละ thread จะเข้าถึงข้อมูลได้เฉพาะส่วนของตนเองเท่านั้น หากมีการเขียนทับซ้อนกัน Rust จะไม่อนุญาตให้คอมไพล์ผ่าน นอกจากนี้แอตทริบิวต์ #[launch_contract] ยังช่วยตรวจสอบความถูกต้องของการกำหนดค่าก่อนรันจริง เพื่อลดโอกาสการเกิดข้อผิดพลาดขณะทำงาน

แนวทาง Tile: cutile-rs

cutile-rs ถูกออกแบบมาให้ทำงานในระดับที่สูงกว่าและใช้งานง่ายกว่า โดยใช้มาโคร #[cutile::module] เพื่อฝัง AST ของ kernel ไว้ในไบนารีและทำ JIT-compile ผ่าน CUDA Tile IR เมื่อเริ่มทำงานจริง วิธีนี้ช่วยให้นักพัฒนาไม่ต้องกังวลเรื่องการจัดการ GPU threads จำนวนมหาศาลด้วยตัวเอง

ข้อดีของ cutile-rs คือความต้องการของระบบที่ยืดหยุ่นกว่า โดยรองรับ stable Rust 1.89+ และ CUDA 13.3 บน Linux ได้ทันทีโดยไม่ต้องพึ่งพา nightly toolchain หรือ LLVM รุ่นปรับแต่งพิเศษ การติดตั้งทำได้ง่ายๆ เพียงใช้คำสั่ง cargo add cutile ในโครงการปกติ

กระบวนการจัดการข้อมูลใน Tile จะใช้การแบ่งส่วน (partition) เช่นการสั่ง .partition([128]) เพื่อกำหนดให้แต่ละไทล์ดูแลข้อมูล 128 องค์ประกอบ พร้อมระบบจัดการความเป็นเจ้าของ tensors ที่จะคืนค่าให้ host เมื่อ GPU ทำงานเสร็จสิ้น โดยทุกคำสั่งจะทำงานแบบ lazy จนกว่าจะมีการเรียกใช้ .sync_on(&stream) เท่านั้น

สิ่งที่คอมไพเลอร์ตรวจจับได้

ความสามารถในการตรวจจับข้อผิดพลาดคือหัวใจหลักของ CUDA Rust หากนักพัฒนาเผลอใช้อินพุตซ้อนกับเอาต์พุตใน SIMT kernel คอมไพเลอร์จะแจ้งเตือน error[E0502] ทันที ในขณะที่ cutile-rs จะใช้ระบบ ownership ติดตาม tensors ตลอดสายการทำงาน ซึ่ง NVIDIA ระบุว่าให้การรับประกันความปลอดภัยที่แข็งแกร่งกว่าการเขียนโปรแกรม GPU แบบเดิมมาก

สรุปประเด็นสำคัญ

• CUDA Rust นำเสนอทางเลือกใหม่ 2 รูปแบบ: cuda-oxide (SIMT) และ cutile-rs (Tile)
• cuda-oxide เหมาะสำหรับการควบคุมระดับลึก แต่ต้องใช้ Rust nightly รุ่นที่กำหนด
• cutile-rs ใช้งานง่าย รองรับ stable Rust และถูกนำไปใช้ในโปรเจกต์อย่าง Grout และ mistral.rs แล้ว
• ทั้งสองระบบใช้ระบบ Borrow Checker ของ Rust เพื่อป้องกันปัญหา Data Aliasing ตั้งแต่ขั้นตอนเขียนโค้ด