Marktechpost เปิดตัว GPU Leaderboard และส่วนขยาย Chrome Deploy It

Marktechpost เปิดตัว GPU Leaderboard เครื่องมือฟรีสำหรับเปรียบเทียบราคาคลาวด์ GPU เพื่อใช้งาน AI inference โดยดึงข้อมูลราคาแบบ on-demand และ spot จากผู้ให้บริการโดยตรง นอกจากนี้ยังเปิดตัว GPU Leaderboard: Deploy It ซึ่งเป็นส่วนขยายบน Chrome เพื่อช่วยตอบคำถามสำคัญว่าควรใช้ GPU รุ่นไหนและเช่าจากที่ใดจึงจะได้ราคาถูกที่สุด

GPU Leaderboard คืออะไร?

GPU Leaderboard คือแดชบอร์ดรวบรวมราคาเช่าคลาวด์ GPU ที่จัดอันดับตามราคาต่อหน่วย GPU-hour ออกแบบมาเพื่อทีมที่ต้องรันงานด้าน inference โดยเฉพาะ ซึ่งแอปพลิเคชันเวอร์ชันแรกนี้ประกอบด้วย 4 ฟังก์ชันหลัก ได้แก่:

• Inference pricing: เครื่องคำนวณต้นทุนรวมสำหรับการรันงานทั้งหมด ไม่ใช่แค่การดูอัตราค่าบริการต่อชั่วโมง
• Leaderboard: ตารางจัดอันดับความคุ้มค่า
• Cheapest Inference: รวมตัวเลือกที่ราคาถูกที่สุด
• Providers: รายชื่อผู้ให้บริการทั้งหมด

เครื่องคำนวณต้นทุน GPU inference ทำงานอย่างไร?

ผู้ใช้สามารถเลือกตัวเร่งความเร็ว (accelerator), จำนวน GPU, ระยะเวลาใช้งาน และสัดส่วนการใช้งาน (utilization) เพื่อให้ระบบคำนวณราคาการรันงานจากผู้ให้บริการทุกราย โดยมีช่องเลือกโมเดลเพื่อช่วยกรองผลลัพธ์ให้แม่นยำขึ้น

ตัวอย่างเช่น การรัน 8×H100 เป็นเวลา 72 ชั่วโมง ด้วยการใช้งาน 90% (รวม 576 GPU-hours) พบว่าราคาถูกที่สุดอยู่ที่ Latitude ที่ $967.68 ($1.68 ต่อ GPU-hour) ขณะที่ค่ามัธยฐานจาก 15 ผู้ให้บริการอยู่ที่ $1,716.48 และราคาสูงสุดคือ $3,545.28 ที่ CoreWeave

นอกจากนี้ เครื่องคำนวณยังแสดงต้นทุน "จริง" ต่อชั่วโมงที่ใช้งาน เนื่องจากปกติผู้ใช้ยังต้องจ่ายค่าบริการในช่วงเวลาว่าง (idle time) ดังนั้นราคา $1.68 ต่อชั่วโมงที่การใช้งาน 90% จะกลายเป็นต้นทุนจริงที่ $1.87 ซึ่งเป็นรายละเอียดที่มักถูกมองข้ามในการวางแผนงบประมาณ

ส่วนขยาย Chrome Deploy It ทำหน้าที่อะไร?

GPU Leaderboard: Deploy It ช่วยนำข้อมูลราคาไปแสดงผลในจุดที่นักพัฒนาเลือกใช้โมเดล โดยสามารถทำงานได้ 3 รูปแบบคือ:

• หน้าโมเดล Hugging Face: ตรวจจับขนาดโมเดลและประมาณค่า VRAM ที่ระดับ FP16, INT8 และ INT4 พร้อมแนะนำ GPU ที่ราคาถูกที่สุดและมีสเปกเพียงพอ
• GitHub repos: ตรวจจับการอ้างอิงโมเดลในคลังโค้ดและช่วยประเมินฮาร์ดแวร์ที่จำเป็นได้ทันที
• Toolbar lookup: ค้นหาข้อมูลโมเดลหรือ GPU ที่ต้องการได้โดยตรงจากแถบเครื่องมือของเบราว์เซอร์

ประเด็นสำคัญ

• GPU Leaderboard จัดอันดับข้อเสนอ GPU ล่าสุดถึง 201 รายการจากผู้ให้บริการ 24 ราย
• ระบบคำนวณราคาครอบคลุมถึงเวลาว่างตามสัดส่วนการใช้งานจริง
• Deploy It ช่วยประเมินความต้องการ VRAM และหา GPU ราคาถูกที่สุดได้บน Hugging Face และ GitHub
• ช่วงราคาสำหรับการใช้งาน 8×H100 ต่อเนื่อง 72 ชั่วโมง มีความแตกต่างกันมากตั้งแต่ $967.68 ถึง $3,545.28
• ข้อมูลมีการอัปเดตทุกวัน ทำให้ได้ราคาที่สดใหม่กว่าเครื่องมือติดตามรูปแบบเดิม

ผู้ที่สนใจสามารถทดลองใช้งานได้ที่ gpuleaderboard.com และติดตั้ง Deploy It extension ได้แล้วผ่าน Chrome Web Store