DeepSeek เปิดตัว DeepInfer เฟรมเวิร์กจัดการโมเดลแบบ Open Source

เรื่องย่อ

กลายเป็นประเด็นที่คนสาย AI ให้ความสนใจอย่างมากเมื่อ u/feelspeaceman ได้แชร์ข่าวว่า DeepSeek ได้ประกาศปล่อย DeepInfer ซึ่งเป็นโอเพนซอร์สเฟรมเวิร์กสำหรับ Inference (การรันโมเดล) ที่เน้นประสิทธิภาพสูงและรองรับการทำงานในระดับสเกลใหญ่สำหรับโมเดลตระกูล DeepSeek โดยเฉพาะ กระทู้นี้ได้รับความสนใจอย่างรวดเร็วด้วยจำนวนกว่า 1,000 upvote และ 155 คอมเมนต์ เนื่องจากเป็นการเปิดเผยเบื้องหลังเทคโนโลยีที่ทำให้บริการของ DeepSeek มีราคาถูกและรวดเร็วกว่าคู่แข่งหลายรายในตลาด

คนในกระทู้ว่าอย่างไร

• ความตื่นเต้นเรื่องการรองรับฮาร์ดแวร์: หลายคนให้ความสนใจที่เฟรมเวิร์กนี้รองรับทั้ง NVIDIA SM100 และ Huawei Ascend 950 NPUs โดยมองว่าเป็นการส่งสัญญาณถึงการแข่งขันในตลาดฮาร์ดแวร์ที่ไม่ได้มีแค่ NVIDIA อีกต่อไป และอาจช่วยให้ราคาอุปกรณ์คอมพิวเตอร์ถูกลงในอนาคต
• การเปิดเผยความลับทางธุรกิจ: มีความเห็นที่มองว่าปกติแล้วเทคโนโลยีด้าน Inference Framework คือความลับสุดยอดของบริษัท AI เชิงพาณิชย์ เพราะเป็นตัวกำหนดต้นทุนและความเร็ว การที่ DeepSeek ยอมเปิดเผยซอร์สโค้ดทำให้คนในวงการรู้สึกทึ่งและเรียก Liang Wenfeng ผู้ก่อตั้งว่า "นักบุญ" แห่งวงการเทคโนโลยีจีน
• โมเดลธุรกิจของ DeepSeek: สมาชิกบางส่วนวิเคราะห์ว่า DeepSeek รวยมาจากธุรกิจ Hedge Fund (High Flyer) อยู่แล้ว การทำ AI จึงไม่ใช่การเน้นทำกำไรสูงสุดจากการขาย API แต่เป็นการสร้างเทคโนโลยีเพื่อสนับสนุนการเทรดทางการเงิน ดังนั้นพวกเขาจึงไม่กลัวที่จะแจกจ่ายตัวโมเดลหรือวิธีการรันให้คนอื่นนำไปใช้
• ผลกระทบต่อเฟรมเวิร์กอื่น: นักพัฒนาคาดการณ์ว่าเฟรมเวิร์กโอเพนซอร์สตัวอื่นๆ (เช่น vLLM หรือ sglang) จะได้เรียนรู้เทคนิคการปรับแต่งประสิทธิภาพจากโปรเจกต์นี้ เพื่อนำไปพัฒนาเครื่องมือรันโมเดลให้ดียิ่งขึ้นตามไปด้วย
• ข้อจำกัดสำหรับผู้ใช้ทั่วไป: มีคนให้ความเห็นว่าเทคโนโลยีนี้เน้นไปที่การจัดการระบบเซิร์ฟเวอร์ขนาดใหญ่และรองรับหลายคำขอพร้อมกัน (Multi-requests) ซึ่งอาจจะไม่ส่งผลดีขึ้นอย่างเห็นได้ชัดสำหรับการใช้งานคนเดียวในบ้านที่มีสเกลขนาดเล็ก

อัปเดต

เจ้าของกระทู้ (u/feelspeaceman) ให้ข้อมูลเพิ่มเติมว่าการปล่อยครั้งนี้มี 2 ส่วนหลัก คือ 1) DeepInfer ที่เป็นตัวเฟรมเวิร์กหลัก และ 2) deepseek-recipe ซึ่งเป็นไลบรารีที่เขียนด้วย Rust สำหรับจัดการรูปแบบข้อมูล (Protocol conversion) เพื่อเชื่อมต่อ API เข้ากับรูปแบบมาตรฐานต่างๆ