AMD เข้าซื้อ Taalas สตาร์ทอัพแคนาดา ลุยเทคโนโลยีฝัง AI ลงในชิปโดยตรงเพื่อความเร็วสูงสุด

AMD ประกาศเข้าซื้อกิจการ Taalas สตาร์ทอัพดาวรุ่งจากประเทศแคนาดา ซึ่งมีจุดเด่นในการพัฒนาเทคโนโลยีระดับนวัตกรรมด้วยการใช้แนวทาง hard-code หรือการฝังค่าน้ำหนัก (weights) ของโมเดลลงในชิปประมวลผล (inference chips) โดยตรง

วิธีการดังกล่าวช่วยให้การประมวลผล AI มีความเร็วสูงขึ้นอย่างมหาศาล แต่มีข้อแลกเปลี่ยนสำคัญคือจะส่งผลให้ชิปแต่ละตัวถูกล็อกการทำงานไว้กับโมเดลเพียงตัวเดียวเท่านั้น ซึ่งแตกต่างจากชิปทั่วไปที่สามารถปรับเปลี่ยนการใช้งานได้หลากหลาย

จากประสิทธิภาพของชิปตัวอย่างที่ Taalas พัฒนาขึ้น พบว่าสามารถทำความเร็วได้สูงกว่า 16,000 tokens ต่อวินาทีต่อผู้ใช้ เมื่อทดสอบด้วยการรันโมเดล Llama 3.1-8B แสดงให้เห็นถึงศักยภาพในการประมวลผลที่เหนือชั้นกว่าสถาปัตยกรรมแบบเดิม

นอกจากนี้ ยังมีรายงานระบุว่ายักษ์ใหญ่อย่าง Google กำลังซุ่มพัฒนาแนวทางที่คล้ายคลึงกันนี้เพื่อนำมาใช้กับโมเดล Gemini ของตนเองเช่นกัน ซึ่งสะท้อนให้เห็นถึงทิศทางใหม่ของอุตสาหกรรมที่มุ่งเน้นการเพิ่มประสิทธิภาพเฉพาะทางให้กับโมเดล AI ในระดับฮาร์ดแวร์