Software ทางออกสำคัญช่วยลดวิกฤตพลังงานใน Data Center AI

· By: SirilukP

ความต้องการพลังงานของ Data Center ทั่วโลกพุ่งสูงขึ้นอย่างต่อเนื่อง โดยคาดการณ์ว่าภายในปี 2030 ความต้องการใช้ไฟฟ้าสำหรับ AI จะสูงถึง 945TWh ซึ่งเทียบเท่ากับการใช้ไฟฟ้าของประเทศ Japan ทั้งประเทศในปัจจุบัน แม้ที่ผ่านมาอุตสาหกรรมจะมุ่งเน้นไปที่การผลิต GPU ที่มีประสิทธิภาพมากขึ้น แต่ผู้เชี่ยวชาญมองว่าการปรับปรุงด้าน Software อาจเป็นวิธีที่ทำได้ง่ายและรวดเร็วกว่า

Jae-Won Chung นักวิจัยจาก ML.Energy ระบุว่า Software และอัลกอริทึมสามารถช่วยลดพลังงานได้จริง โดยการทดสอบโมเดล Qwen ของ Alibaba พบว่าการรันด้วยรูปแบบ FP8 ช่วยประหยัดพลังงานได้ถึง 1 ใน 3 นอกจากนี้ ระบบ Perseus ยังสามารถปรับความเร็วในการประมวลผลส่วนต่างๆ ให้สอดคล้องกัน ซึ่งช่วยลดพลังงานที่ใช้ในการฝึกโมเดลได้ถึง 30% โดยไม่กระทบต่อประสิทธิภาพโดยรวม

ด้าน Nvidia ได้นำแนวคิดนี้มาใช้ผ่าน Blackwell power profiles เพื่อปรับแต่งความถี่ของหน่วยความจำและขีดจำกัดพลังงานให้เหมาะสมกับภาระงาน ซึ่งช่วยประหยัดพลังงานได้ 15% ในขณะที่ยังคงประสิทธิภาพไว้ได้มากกว่า 97% นอกจากนี้การเปลี่ยนไปใช้โมเดลขนาดเล็กสำหรับงานทั่วไป หรือการใช้ Cache สำหรับคำสั่ง AI ที่ใช้ซ้ำ ก็เป็นอีกแนวทางที่ช่วยลดการประมวลผลที่ไม่จำเป็น

นอกจากการปรับปรุงตัวโปรแกรมแล้ว Sophie Hall จาก ETH Zurich เสนอว่าการจัดการเวลาและสถานที่ในการประมวลผลก็มีความสำคัญ โดยสามารถเลื่อนงานที่ไม่ด่วนไปรันในช่วงที่มีความต้องการไฟฟ้าต่ำ หรือส่งงานไปยังภูมิภาคที่มีแหล่งพลังงานสะอาดสำรองไว้ แม้จะมีข้อจำกัดเรื่องกฎหมายอธิปไตยทางข้อมูลและความยากในการย้ายข้อมูลขนาดใหญ่ข้ามพรมแดนก็ตาม

ในท้ายที่สุด Software จะทำหน้าที่เป็นตัวควบคุมสำคัญที่ช่วยเค้นประสิทธิภาพสูงสุดจาก Hardware ราคาแพง อย่างไรก็ตาม ความท้าทายยังคงอยู่ที่กฎของ Jevons Paradox ซึ่งระบุว่าเมื่อระบบมีประสิทธิภาพมากขึ้น ความต้องการใช้งานก็จะยิ่งเพิ่มขึ้นตามไปด้วย ทำให้เป้าหมายหลักคือการใช้ทุกวัตต์ที่จ่ายไปให้เกิดประโยชน์สูงสุดเพื่อรับมือกับคอขวดด้านพลังงานในยุค AI

Source: Tom's Hardware
ดูแลงานแปลและเรียบเรียงโดย SirilukP
Nvidia Data Center Rack

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร