Google เปิดตัว TPU 2 รุ่นใหม่ เสริมทัพชิป AI แข่งขัน Nvidia

· By: SirilukP

Image description

ประเด็นสำคัญ

  • Google เปิดตัว 2 ระบบใหม่ในไลน์อัปชิป AI รุ่นที่ 8 ได้แก่ TPU 8tx และ TPU 8i Max ซึ่งพัฒนาต่อยอดจากโปรเซสเซอร์ที่มีอยู่เดิม
  • TPU 8tx ชูจุดเด่นด้านความปลอดภัยด้วยการคงการเข้ารหัสข้อมูลขณะประมวลผล ส่วน TPU 8i Max เพิ่มหน่วยความจำและพลังประมวลผลเป็น 2 เท่าในแพ็กเกจเดียว
  • Google ตั้งเป้าลดอุปสรรคสำหรับนักพัฒนาผ่านเครื่องมือซอฟต์แวร์ TorchTPU เพื่อรุกตลาดฮาร์ดแวร์สำหรับงาน model inference ให้กับกลุ่มลูกค้าภายนอก

การเปิดตัว TPU รุ่นใหม่ทั้ง 2 รุ่นนี้ แสดงให้เห็นว่า Google กำลังมุ่งเน้นไปที่การประมวลผล AI ที่ต้องการความปลอดภัยสูงและแอปพลิเคชันที่ใช้หน่วยความจำมหาศาล ซึ่งเป็นส่วนหนึ่งของกลยุทธ์การผลักดันชิป AI ที่พัฒนาขึ้นเองให้เป็นแพลตฟอร์มหลักสำหรับลูกค้าภายนอก

Google เสริมความแข็งแกร่งให้กับตระกูล AI accelerator รุ่นที่ 8 ด้วยการเพิ่ม TPU 8tx ที่เน้นการประมวลผลแบบเป็นความลับ (confidential computing) และ TPU 8i Max สำหรับภาระงานที่ต้องใช้หน่วยความจำสูง การเปิดตัวครั้งนี้ทำให้ Google ส่งมอบระบบ TPU ได้ถึง 4 ระบบภายในปีเดียวเป็นครั้งแรก

ชิปทั้งสองรุ่นนี้พัฒนาขึ้นจากซิลิคอนเดิมที่มีอยู่ โดย Google ใช้วิธีการปรับแต่งระบบใหม่ผ่านการแพ็กเกจ การเชื่อมต่อเครือข่าย และการตั้งค่าหน่วยความจำรอบโปรเซสเซอร์เดิมแทนการผลิตชิปใหม่ทั้งหมด ซึ่งแนวทางแบบโมดูลาร์นี้ช่วยให้บริษัทสามารถส่งมอบฮาร์ดแวร์รุ่นใหม่ได้ภายในเวลาไม่กี่เดือนจากเดิมที่ต้องใช้เวลานานเป็นปี

Google เปิดตัว TPU 2 รุ่นใหม่ เสริมทัพชิป AI แข่งขัน Nvidia

TPU 8tx ปกป้องข้อมูลละเอียดอ่อนด้วยการเข้ารหัสขณะประมวลผล

TPU 8tx ออกแบบมาเพื่อองค์กรและหน่วยงานรัฐที่ให้ความสำคัญกับข้อมูลที่เป็นความลับ โดยปกติแล้วข้อมูลจะถูกเข้ารหัสระหว่างการจัดเก็บและส่งผ่าน แต่จำเป็นต้องถอดรหัสในหน่วยความจำเมื่อเริ่มประมวลผล ซึ่งอาจกลายเป็นช่องโหว่ได้

Google พัฒนา TPU 8tx ขึ้นเพื่อปิดช่องว่างดังกล่าว โดยข้อมูลและ model weights จะได้รับการคุ้มครองและแยกส่วนแม้ในระหว่างการใช้งาน ซึ่งเป็นคุณสมบัติที่ทัดเทียมกับเทคโนโลยีที่ Nvidia นำเสนอผ่านสถาปัตยกรรม confidential computing ของตน

ระบบนี้ใช้งานบนเครือข่าย Boardfly ที่มีความหน่วงต่ำ ซึ่ง Google พัฒนาขึ้นสำหรับ real-time inference โดยเฉพาะ คาดว่าจะช่วยลดความหน่วงได้ถึง 2 เท่าเมื่อเทียบกับ TPU 8t ช่วยให้องค์กรสามารถ fine-tune โมเดล หรือฝึกฝน AI agent ด้วย reinforcement learning ได้อย่างปลอดภัยโดยไม่ต้องเคลื่อนย้ายข้อมูลที่ละเอียดอ่อนออกจากคลัสเตอร์

TPU 8i Max เพิ่มพลังประมวลผล 2 เท่าในขนาดเท่าเดิม

ในขณะที่ TPU 8i Max ถูกสร้างมาเพื่อแก้ปัญหาคอขวดของหน่วยความจำ โดยเฉพาะเมื่อ AI agent ต้องทำงานร่วมกับฐานข้อมูลรหัสขนาดใหญ่หรือไฟล์วิดีโอความยาวหลายชั่วโมง Google จึงแก้ปัญหาด้วยการนำชิป TPU 8i สองตัวมาวางรวมกันในแพ็กเกจเดียว

Google เปิดตัว TPU 2 รุ่นใหม่ เสริมทัพชิป AI แข่งขัน Nvidia

การรวมชิปดังกล่าวส่งผลให้ได้พลังประมวลผล หน่วยความจำ และแบนด์วิดท์หน่วยความจำเพิ่มขึ้นเป็น 2 เท่าในรูปแบบแร็คขนาดเท่าเดิม ซึ่งช่วยเพิ่มประสิทธิภาพการทำงานต่อพื้นที่ดาต้าเซ็นเตอร์ได้อย่างมีนัยสำคัญ

Google ลดช่องว่างให้นักพัฒนาเข้าถึง TPU ได้ง่ายขึ้น

นอกจากการพัฒนาฮาร์ดแวร์แล้ว Google ยังมุ่งเน้นให้การใช้งาน TPU สะดวกยิ่งขึ้น โดยได้ทำการ เผยแพร่ TorchTPU เป็นโอเพนซอร์ส เพื่อให้นักพัฒนาสามารถรันโค้ด PyTorch บน TPU ได้ทันทีโดยแทบไม่ต้องแก้ไข พร้อมรองรับเฟรมเวิร์ก inference ยอดนิยมอย่าง vLLM และ SGLang

สมรภูมิ Inference คือหัวใจสำคัญของการแข่งขันชิป AI

การขยายตัวของ Google ในครั้งนี้สะท้อนถึงการเปลี่ยนผ่านจากการใช้ TPU เป็นเครื่องมือภายในบริษัท มาสู่การแข่งขันในฐานะผู้ให้บริการแพลตฟอร์มแก่ลูกค้าภายนอก ซึ่งปัจจุบันมีผู้ใช้งานแล้วเกือบ 100 ราย

ปัจจุบันตลาด AI กำลังเปลี่ยนจุดโฟกัสจากการฝึกฝนโมเดล (training) ที่ใช้ต้นทุนสูง ไปสู่การนำโมเดลไปใช้งานจริง (inference) ในชีวิตประจำวัน ซึ่งชิปเฉพาะทางอย่าง TPU มีความได้เปรียบสูงในจุดนี้ นี่จึงเป็นเหตุผลที่ยักษ์ใหญ่อย่าง Amazon, Microsoft และ OpenAI ต่างเร่งพัฒนาชิป accelerator ของตนเอง

ขณะที่ Nvidia ก็ไม่ได้นิ่งเฉย โดยได้ตอบโต้ด้วยการเสริมทัพด้าน inference ผ่าน การดีลจ้างทีมงานและใบอนุญาตกับ Groq เพื่อรักษาตำแหน่งผู้นำในตลาดชิปประมวลผลต่อไป

Source: The Decoder
ดูแลงานแปลและเรียบเรียงโดย SirilukP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร