Qwenputer สร้างสถิติใส่ CPU RISC-V ลงใน AI Model เพื่อรันเกม DOOM
Divyansh Agrawal วิศวกร AI เปิดตัวโปรเจกต์ทดลองชื่อ Qwenputer ซึ่งเป็นการนำโมเดลภาษาขนาดใหญ่ Qwen 3.5 4B มาปรับแต่งโดยการ Compile และฝังชุดคำสั่ง CPU สถาปัตยกรรม RISC-V แบบ 32-bit ลงไปใน Weights ของโมเดลโดยตรง ทำให้ AI สามารถประมวลผลทางคณิตศาสตร์และรันรหัสภาษา C หรือ MicroPython ได้ด้วยตัวเอง
หัวใจสำคัญของเทคนิคนี้คือการใช้สถานะ Gated DeltaNet (GND) ของโมเดลทำหน้าที่เป็น RAM ซึ่งทางผู้พัฒนาเรียกมันว่า Fast Weights แม้จะไม่ใช่แนวคิดใหม่ทั้งหมดแต่ถือเป็นครั้งแรกที่นำมาใช้กับ Qwen 3.5 โดยตัว CPU ถูกสร้างขึ้นจากชั้น Transformer 11 ชั้นที่วางไว้หน้าเลเยอร์เดิมของโมเดล และไม่ได้ผ่านการ Training แต่ใช้คอมไพเลอร์คำนวณค่า Weights ขึ้นมาทั้งหมด
ประสิทธิภาพของ CPU ในตัวโมเดลนี้สามารถผ่านการทดสอบมาตรฐาน riscv-tests และรันคำสั่งไปแล้วกว่า 18 ล้านชุดโดยไม่พบข้อผิดพลาด นอกจากนี้ยังมีการเพิ่มระบบ Filesystem ที่ใช้พื้นที่เก็บข้อมูลจาก DeltaNet state รองรับไฟล์สูงสุด 512 ไฟล์ ซึ่งสามารถจัดเก็บข้อมูลได้อย่างถาวรหากผู้ใช้บันทึกสถานะการสนทนาไว้
อย่างไรก็ตาม การฝัง CPU และทรัพยากรเพิ่มเติมทำให้ขนาดของโมเดลเพิ่มขึ้นเกือบเท่าตัวจากเดิมไปอยู่ที่ประมาณ 19GB ส่งผลให้ต้องใช้เครื่องที่มี VRAM อย่างน้อย 24GB ในการทดสอบ ปัจจุบันโปรเจกต์นี้เปิดให้เข้าถึงได้ผ่าน GitHub ภายใต้ลิขสิทธิ์ MIT และสามารถดาวน์โหลดโมเดลได้จาก Hugging Face เพื่อนำไปศึกษาต่อด้านศักยภาพใหม่ๆ ของ LLM

ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
