tag: Backpropagation

นักวิจัย Sakana AI เปิดตัว PC-ALM ทางเลือกการเรียนรู้แบบ Layer-Local แทน Backpropagation รองรับเครือข่ายลึกถึง 1,000 ชั้น

นักวิจัย Sakana AI เปิดตัว PC-ALM ทางเลือกการเรียนรู้แบบ Layer-Local แทน Backpropagation รองรับเครือข่ายลึกถึง 1,000 ชั้น

· By: NatapolK
Jeffrey Seely และ Julian Gould นักวิจัยจาก Sakana AI เปิดตัว PC-ALM ทางเลือกการเรียนรู้แบบโลคัลแทน Backpropagation โดยการเพิ่ม Lagrange multiplier เข้าไปในข้อจำกัดของแต่ละเลเยอร์ ช่วยให้สามารถดึงค่า Backprop Gradients ที่แม่นยำออกมาได้ และรองรับการฝึกเครือข่ายสูงถึง 1,000 ชั้น โดยมีโค้ด JAX พร้อมใช้งานแล้ว
Sakana AI เปิดตัว Error Diffusion: ฝึก AI ด้วยหลักการชีวภาพโดยไม่ใช้ Backpropagation

Sakana AI เปิดตัว Error Diffusion: ฝึก AI ด้วยหลักการชีวภาพโดยไม่ใช้ Backpropagation

Sakana AI เปิดตัว Error Diffusion (ED) แนวทางการฝึก AI รูปแบบใหม่ที่ใช้หลักการชีวภาพโดยไม่พึ่งพา Backpropagation เพื่อแก้ปัญหาการขนส่งน้ำหนักและรองรับฮาร์ดแวร์ยุคใหม่ ผลการทดสอบพบว่าสามารถใช้กับโครงข่าย Convolutional ได้เป็นครั้งแรกและทำประสิทธิภาพได้ดีในงานเสริมแรงเรียนรู้