tag: MaxText

Google เปิดตัว MaxText ฝึก AI Long-Context ได้ถึง 14 ล้าน Token

Google เปิดตัว MaxText ฝึก AI Long-Context ได้ถึง 14 ล้าน Token

· By: TanasakP
Google Cloud เปิดตัวระบบฝึกอบรมโมเดลภาษาขนาดใหญ่ที่รองรับความยาวบริบทสูงสุดถึง 14 ล้าน Token บน Cloud TPU ผ่านเฟรมเวิร์ก MaxText ที่ใช้กลยุทธ์ Context Parallelism ขั้นสูง
Google สร้างซ้ำ OLMo 3 7B บน TPUs สำเร็จด้วย MaxText

Google สร้างซ้ำ OLMo 3 7B บน TPUs สำเร็จด้วย MaxText

· By: TanasakP
ทีมงาน Google Cloud ประสบความสำเร็จในการฝึกอบรมโมเดล OLMo 3 7B ซ้ำด้วย MaxText บน TPUs โดยมีประสิทธิภาพเทียบเท่า PyTorch บน GPUs และทำค่า MFU ได้สูงสุดถึง 57.4%