r/LocalLLaMAProject
Revolut ลดต้นทุนเขียนโค้ด 10 เท่าหลังเลิกใช้ Claude หันมาโฮสต์เอง
เรื่องย่อ
กลายเป็นประเด็นที่คนสาย Local LLM ให้ความสนใจอย่างมาก เมื่อ u/notheresnolight ได้แชร์ข่าวของ Revolut บริษัทฟินเทคสัญชาติอังกฤษที่สามารถลดต้นทุนการใช้ AI ช่วยเขียนโค้ดลงได้ถึง 10 เท่า หลังจากตัดสินใจเลิกใช้บริการโมเดลจากภายนอกอย่าง Claude แล้วเปลี่ยนมาเป็นการติดตั้งและรันโมเดลเอง (Self-hosted) โดยใช้โมเดล GLM-5.3 บนขุมพลังจีพียู NVIDIA B200 จำนวน 56 ตัว กระทู้นี้ได้รับความสนใจสูงโดยมียอดอัปโหวตกว่า 1,500 ครั้ง และคอมเมนต์กว่า 260 ข้อความ
คนในกระทู้ว่าอย่างไร
- คอมเมนต์ที่ได้รับความนิยมสูงสุดมองว่า นี่คือข้อพิสูจน์ว่าการรัน Local LLM ไม่ใช่เรื่องไร้สาระอย่างที่หลายคนสบประมาท แม้ว่าในระยะแรกค่าฮาร์ดแวร์จะสูง แต่ในระยะยาวการเป็นเจ้าของระบบเองนั้นคุ้มค่ากว่าการจ่ายค่าเช่ารายเดือนที่ถูกจำกัดการใช้งาน
- มีคนตั้งข้อสังเกตว่า สำหรับสถาบันการเงินแล้ว เหตุผลหลักอาจไม่ใช่แค่เรื่องเงิน แต่เป็นเรื่องความปลอดภัยและความเสถียร เพราะบริการแบบ Cloud อย่าง Claude เป็นเหมือน "กล่องดำ" ที่ผู้ให้บริการสามารถแอบปรับเปลี่ยนโมเดลหรือความสามารถได้ตลอดเวลาโดยไม่แจ้งให้ทราบ
- อีกคนชี้ให้เห็นประเด็นเรื่อง "Token" โดยยกตัวอย่างจากเนื้อหาข่าวว่า เมื่อใช้ระบบของตัวเองที่ไม่มีขีดจำกัดเรื่องค่า Token ต่อหน่วย วิศวกรจะทำงานได้มีประสิทธิภาพมากขึ้น เพราะสามารถสั่งให้ AI ช่วยทำงานจุกจิก เช่น การแก้บั๊ก หรือสรุปเอกสารใน Jira ได้อย่างเต็มที่โดยไม่ต้องกังวลว่าโควตาจะหมด
อย่างไรก็ตาม มีคนแย้งว่าโมเดลระดับนี้ยังไกลตัวผู้ใช้ทั่วไปมาก เพราะต้องใช้ทรัพยากรเครื่องที่สูงมหาศาล และมองว่าบริษัท AI ใหญ่ๆ กำลังพยายามบีบให้ผู้ใช้ต้องจ่ายเงินค่าสมัครสมาชิกแทนที่จะซื้อขาด
- บางส่วนมองว่าสุดท้ายแล้ว NVIDIA ก็เป็นผู้ชนะอยู่ดี ไม่ว่าบริษัทต่างๆ จะเช่า Cloud หรือหันมาตั้งเซิร์ฟเวอร์เอง NVIDIA ก็ขายการ์ดจอได้ทั้งสองทาง แต่การซื้อขาดมาติดตั้งเองยังให้ความรู้สึกถึงการเป็นเจ้าของ (Ownership) ที่ดีกว่า
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
