tag: JAX

ทำความรู้จัก Kauldron ไลบรารีที่ช่วยให้การเทรน JAX ยืดหยุ่นและเป็นโมดูลมากขึ้น ด้วยระบบ Config ที่เป็น JSON, การเชื่อมต่อองค์ประกอบผ่าน String Path และระบบตรวจสอบ Shape ของ Array ขณะรันไทม์

Google พัฒนาเทคนิคการจัดวาง Token และการปรับแต่ง Sparse Attention Kernel บน TPU ช่วยลดความหน่วงและเพิ่มความเร็วในการสร้างวิดีโอความละเอียดสูงได้สูงสุดถึง 1.69 เท่า

Jeffrey Seely และ Julian Gould นักวิจัยจาก Sakana AI เปิดตัว PC-ALM ทางเลือกการเรียนรู้แบบโลคัลแทน Backpropagation โดยการเพิ่ม Lagrange multiplier เข้าไปในข้อจำกัดของแต่ละเลเยอร์ ช่วยให้สามารถดึงค่า Backprop Gradients ที่แม่นยำออกมาได้ และรองรับการฝึกเครือข่ายสูงถึง 1,000 ชั้น โดยมีโค้ด JAX พร้อมใช้งานแล้ว

คู่มือการสร้าง Neural Radiance Field (NeRF) แบบลำดับชั้นตั้งแต่เริ่มต้นด้วย JAX และ Flax โดยใช้ฟังก์ชัน jax3d เพื่อจัดการกระบวนการสร้างโครงสร้าง 3D และการเรนเดอร์ภาพจากมุมมองใหม่ได้อย่างแม่นยำ