Perplexity เปิดตัว Decider v1.3 โมเดลการตัดสินใจแบบ Open-Weight

Perplexity ได้เปิดตัว pplx-decider-v1.3 and pplx-decider-flash-v1.3 เวอร์ชันล่าสุดของโมเดลการตัดสินใจแบบ open-weight โดย Perplexity Decider v1.3 เป็นโมเดลที่คืนค่าเป็นความน่าจะเป็น แทนที่จะเป็นการสร้างข้อความยาวๆ เหมือนโมเดลทั่วไป

โมเดลรุ่นนี้สามารถตอบคำถามได้หลากหลายรูปแบบ ทั้งแบบ ใช่/ไม่ใช่, หลายตัวเลือก ไปจนถึงการให้คะแนนจากอินพุตที่เป็นข้อความหรือรูปภาพ ไฮไลต์สำคัญคือการเพิ่มฟีเจอร์ Locate ที่ช่วยดึงส่วนของข้อความที่ถูกต้องตามคำสั่งได้อย่างแม่นยำ โดยผู้สนใจสามารถดาวน์โหลดน้ำหนักโมเดล (weights) ภายใต้ใบอนุญาต Apache 2.0 ได้ที่ Hugging Face

นอกจากนี้ ทั้งสองโมเดลยังเปิดให้ใช้งานผ่าน Perplexity Decisions API และบน OpenRouter หรือจะตรวจสอบตัวเลือกการติดตั้งและสเปกต่างๆ ผ่าน GPULeaderboard.com chrome extension ก็ได้เช่นกัน

TL;DR

• ขนาด: รุ่น v1.3 มีขนาด 27B พัฒนาบนพื้นฐาน Qwen3.8-27B ส่วนรุ่น Flash มีขนาด 4B บนเทคโนโลยี Qwen3.5-4B (Hugging Face ระบุพารามิเตอร์ที่ 26B และ 5B ตามลำดับ) รองรับอินพุต API สูงถึง 256K tokens
• การประมวลผล: ทำงานบน CUDA GPU ที่รองรับน้ำหนัก BF16 โดยรุ่น v1.3 ใช้พื้นที่ประมาณ 49 GiB และรุ่น Flash ใช้ประมาณ 8.5 GiB ปัจจุบันยังไม่มีเวอร์ชัน quantized
• ประสิทธิภาพ: จากรายงานของ Perplexity ระบุว่าประสิทธิภาพเหนือกว่า Jev 1.14 ของ TypeSafe ในการทดสอบเกือบทุกรายการ
• จุดแข็ง: ทำความแม่นยำเฉลี่ยได้สูงถึง 91.6% ในงานจำแนกประเภทคำค้นหา 63 รายการ
• จุดที่ต้องพัฒนา: ฟีเจอร์ Locate มีคะแนนเฉลี่ยอยู่ที่ 69.0 ซึ่งถือว่าต่ำที่สุดในบรรดางานทั้งหมด โดยรุ่น Flash ยังตามหลัง Jev 1.14 ในด้านการเงิน การเขียนโปรแกรม และกฎหมาย
• ความคุ้มค่า: มีอัตราการเปลี่ยนคำตอบ (answer-flip rate) ต่ำเพียง 0.27% โดยมีราคาค่าบริการในระดับ production อยู่ที่ 26.47 ดอลลาร์ต่อ 1 ล้านคำขอ

Perplexity Decider v1.3 คืออะไร?

Decider เป็นตระกูลโมเดลการตัดสินใจที่ได้รับแรงบันดาลใจจาก TypeSafe’s Jev โดยในแต่ละคำขอจะประกอบด้วย 'สถานะ' (state) ที่ใช้ร่วมกัน พร้อมคำถามและตัวเลือกที่กำหนดไว้ โมเดลจะวิเคราะห์และคืนค่าเป็นความน่าจะเป็นของแต่ละตัวเลือกแทนการเขียนตอบ

สำหรับ v1.3 นี้มาเพื่อทดแทน v1.2 และ Flash v1.2 โดยรุ่น Flash v1.3 นั้นผ่านกระบวนการกลั่นกรอง (distilled) มาจากโมเดลที่มีขนาดใหญ่กว่าเพื่อให้ทำงานได้รวดเร็วขึ้น

Decider v1.3 ทำงานอย่างไร?

Perplexity ปรับเปลี่ยนโครงสร้างจาก generative LLM มาเป็นตัวจำแนกประเภท (classifier) โดยตัดเลเยอร์เอาต์พุตให้เหลือเพียง tokens ตัวเลือก (A, B, C) และใช้ linear decision head อ่านค่าจาก <|marker|> token เพื่อส่งค่าความน่าจะเป็นออกมา

เลเยอร์ full-attention ถูกปรับให้เป็นแบบสองทิศทาง (bidirectional) ซึ่งจากการทดสอบระบุว่าช่วยเพิ่มประสิทธิภาพได้จริง นอกจากนี้ในเวอร์ชัน v1.3 ยังปรับปรุงการส่ง attention โดยให้แต่ละคำถามมองเห็นเฉพาะหน่วย 'สถานะ' และตัวมันเองเท่านั้น เพื่อป้องกันไม่ให้คำตอบเปลี่ยนไปตามบริบทของคำถามอื่นที่ส่งมาพร้อมกัน

กระบวนการฝึกฝนแบ่งเป็น 3 ขั้นตอนหลัก:

• การ fine-tune เต็มรูปแบบบนชุดข้อมูลสาธารณะจำนวนมาก
• การใช้ LoRA เพื่อปรับแต่งความเชี่ยวชาญเฉพาะทาง
• การใช้ LoRA สำหรับปรับแต่งด้านวิชัน (Vision)

ฟีเจอร์ Locate ใหม่ทำหน้าที่อะไร?

Locate ถูกออกแบบมาเพื่อดึงส่วนของข้อความที่ต้องการ พร้อมระบุตำแหน่งตัวอักษรเริ่มต้นและสิ้นสุด (offsets) อย่างแม่นยำ เหมาะสำหรับงานประเภท NER, การตรวจจับข้อมูลส่วนบุคคล (PII) และ extractive QA โดยผู้ใช้สามารถระบุป้ายกำกับสั้นๆ หรือคำสั่งเฉพาะเจาะจงลงไปได้

การทำงานจะใช้ <|locate|> token ใหม่ควบคู่ไปกับการฝึก span head ด้วย LoRA ในขณะที่โครงสร้างหลักยังคงถูกแช่แข็ง (frozen) ไว้เพื่อรักษาความแม่นยำในการตัดสินใจส่วนอื่นๆ

ประสิทธิภาพบนเบนช์มาร์ก (รายงานโดย Perplexity)

• การจำแนกคำค้นหา: แม่นยำเฉลี่ย 91.6% สูงกว่าระบบเดิมที่ใช้ในระดับ production ถึง 6.54 จุด
• การจำแนกโดเมน: ชนะ Jev 1.14 ในทั้ง 7 โดเมน โดยเฉพาะด้านการเงินที่นำห่างถึง 12.9 จุด
• การจัดลำดับใหม่ (Reranking): ค่า nDCG@10 อยู่ที่ 83.99 สูงกว่า Qwen3-Reranker-8B และ Jev 1.14
• การรองรับหลายภาษา: ทำได้ 88.16% ในขณะที่รุ่น Flash ทำได้ 86.50%
• ความทนทาน (Robustness): มีอัตราการเปลี่ยนคำตอบเพียง 0.27% เมื่อมีการสลับลำดับตัวเลือก ซึ่งนิ่งกว่า Jev 1.14 อย่างเห็นได้ชัด

การติดตั้งและใช้งานสำหรับนักพัฒนา

นักพัฒนาสามารถเรียกใช้งานผ่าน API เอนด์พอยต์ POST https://api.perplexity.ai/v1/decisions โดยใช้ชื่อโมเดล pplx-decider-v1.3 หรือ pplx-decider-flash-v1.3 สำหรับ ราคา จะอยู่ที่ 0.02 ดอลลาร์ และ 0.01 ดอลลาร์ ต่อ 1 ล้าน input tokens โดยไม่คิดค่า output

สำหรับการใช้งานแบบ local สามารถโหลดโมเดลผ่านแพ็กเกจ pplx_decider ด้วยคำสั่ง Decider.from_pretrained() โดยทาง Perplexity แนะนำให้ใช้รุ่น v1.3 สำหรับงานที่ต้องการความละเอียดสูง และรุ่น Flash สำหรับงานที่เน้นปริมาณและการกำหนดเส้นทาง (routing) ข้อมูลจำนวนมาก