tag: Sakana AI

Jeffrey Seely และ Julian Gould นักวิจัยจาก Sakana AI เปิดตัว PC-ALM ทางเลือกการเรียนรู้แบบโลคัลแทน Backpropagation โดยการเพิ่ม Lagrange multiplier เข้าไปในข้อจำกัดของแต่ละเลเยอร์ ช่วยให้สามารถดึงค่า Backprop Gradients ที่แม่นยำออกมาได้ และรองรับการฝึกเครือข่ายสูงถึง 1,000 ชั้น โดยมีโค้ด JAX พร้อมใช้งานแล้ว

Sakana AI เปิดตัว Fugu Max และ Fugu Ultra v2 สองโมเดลใหม่บนสถาปัตยกรรม learned orchestration ที่ช่วยจัดสรรงานไปยังกลุ่มโมเดลต่างๆ ได้อย่างมีประสิทธิภาพ โดยชูจุดเด่นเรื่องความคุ้มค่าและขีดความสามารถสูงสุดในการแก้โจทย์ซับซ้อน

นักวิจัยเปิดตัว Science One Framework เพื่อแก้ปัญหาการหลอนข้อมูลในงานวิจัยอัตโนมัติของ AI โดยใช้ระบบตรวจสอบห่วงโซ่หลักฐาน (CoE) ที่ยืนยันความถูกต้องของข้อมูลอ้างอิงและผลการทดลองได้ 100%

Sakana AI อัปเดต Fugu Ultra v1.1 สู่เวอร์ชันใหม่ โดยอ้างว่าทำคะแนนได้สูงกว่า Fable 5 และปรับปรุงประสิทธิภาพเพิ่มขึ้นถึง 7.9 คะแนน พร้อมเปิดตัวเอนด์พอยต์ใหม่รองรับ Claude Code

Sakana AI เปิดตัว Error Diffusion (ED) แนวทางการฝึก AI รูปแบบใหม่ที่ใช้หลักการชีวภาพโดยไม่พึ่งพา Backpropagation เพื่อแก้ปัญหาการขนส่งน้ำหนักและรองรับฮาร์ดแวร์ยุคใหม่ ผลการทดสอบพบว่าสามารถใช้กับโครงข่าย Convolutional ได้เป็นครั้งแรกและทำประสิทธิภาพได้ดีในงานเสริมแรงเรียนรู้

Sakana AI นำโมเดล Nemotron ของ Nvidia เข้าสู่ระบบ Fugu เพื่อประสานพลังโมเดลภาษาขนาดเล็กให้สามารถทำงานร่วมกันได้อย่างมีประสิทธิภาพ โดยตั้งเป้าให้โมเดลแบบ Open Source สามารถก้าวขึ้นมาเทียบชั้นกับระบบระดับ Frontier ได้