r/LocalLLaMAImage
Qualcomm เผยบริษัท AI อยากให้มือถือรันโมเดล 100B ได้ในปี 2028
· By: TanasakP
เรื่องย่อ
กระทู้โดย u/Recoil42 กลายเป็นประเด็นร้อนหลังแชร์ข่าวว่าซีอีโอของ Qualcomm ออกมาเปิดเผยความต้องการของเหล่าบริษัท AI ที่อยากให้สมาร์ทโฟนสามารถรันโมเดลระดับ 100-billion-parameter (100B) ได้อย่างต่อเนื่องภายในปี 2028 ซึ่งกระทู้นี้ได้รับความสนใจอย่างมากด้วยคะแนนกว่า 1,000 upvote และคอมเมนต์เกือบ 500 ข้อความที่พยายามวิเคราะห์ความเป็นไปได้ในเชิงเทคนิค
คนในกระทู้ว่าอย่างไร
- ข้อจำกัดด้านฮาร์ดแวร์คืออุปสรรคใหญ่: คอมเมนต์ส่วนใหญ่ตั้งคำถามเรื่อง RAM โดยระบุว่าการรันโมเดล 100B แม้จะบีบอัด (Quantization) แล้ว ก็ยังต้องการ RAM มหาศาลระดับ 48-64GB ซึ่งเกินกว่าที่สมาร์ทโฟนในปัจจุบันจะทำได้ รวมถึงประเด็นเรื่องการใช้พลังงานที่อาจทำให้แบตเตอรี่หมดไวหรือเครื่องร้อนจนกลายเป็นเตาแก๊สได้
- ความเป็นไปได้ของเทคนิค MoE: มีคนวิเคราะห์ว่าอาจทำได้ถ้าใช้สถาปัตยกรรม Mixture of Experts (MoE) ที่มีพารามิเตอร์รวม 100B แต่เรียกใช้งานจริงเพียงแค่ 1-4B ในแต่ละครั้ง ซึ่งจะช่วยลดภาระการประมวลผล แต่ก็ยังติดปัญหาเรื่องความเร็วของ RAM บนมือถือที่ยังห่างชั้นกับ GPU ของฝั่งเดสก์ท็อป
- ความสงสัยต่อเจตนาของบริษัท AI: บางส่วนมองว่านี่คือความพยายามลดต้นทุน Cloud ของบริษัท AI โดยโยนภาระการประมวลผลมาให้เครื่องของผู้ใช้แทน และตั้งข้อสังเกตว่าอาจเป็นกลยุทธ์ Social Engineering เพื่อให้ผู้ใช้ยอมรับการถูกสอดแนมผ่านการประมวลผลในเครื่องที่อ้างว่ามีความเป็นส่วนตัวมากขึ้น
- มองว่าเป็นเพียงการปั่นกระแสการลงทุน: มีคนมองว่าเป็นเพียงคำพูดสวยหรูของซีอีโอ (CEO-speak) เพื่อดึงดูดนักลงทุนและปั่นราคาหุ้น เนื่องจากในความเป็นจริงเทคโนโลยี DRAM ยังไม่มีวี่แววจะก้าวกระโดดได้ทันความต้องการดังกล่าวภายในเวลาเพียงไม่กี่ปี
- ความเป็นไปได้ในรูปแบบอื่น: มีคนเสนอว่า "โทรศัพท์" ที่พูดถึงอาจหมายถึงหุ่นยนต์ (Robotics) ที่เชื่อมต่อเครือข่ายเซลลูลาร์ หรืออาจเป็นการใช้ชิปเฉพาะทาง (ASIC) ที่ฝังโมเดลไว้ในซิลิกอนโดยตรงเพื่อเลี่ยงการใช้ RAM จำนวนมาก
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
