PolyAI เปิดตัว Dialog-RSN-1 โมเดลสนทนา Audio-Native ตอบโต้ลื่นไหลในเวลาต่ำกว่า 300ms

PolyAI ได้ประกาศเปิดตัว Dialog-RSN-1 โมเดลการสนทนาอัจฉริยะที่ถูกออกแบบมาให้รับรู้เสียงของผู้โทรได้โดยตรง แทนการอ่านเพียงข้อความที่ถอดความมาจากระบบ ASR แบบเดิม โดยโมเดลนี้ได้รวมเอาความสามารถในการสลับคิวพูด (turn-taking), การจดจำเสียง, การเรียกใช้ฟังก์ชัน และการสร้างคำตอบไว้ในรูปแบบ audio-native เพียงหนึ่งเดียว ซึ่งปัจจุบันได้เริ่มใช้งานจริงในระบบโปรดักชันแล้ว

ประเด็นสำคัญ

• Dialog-RSN-1 ใช้เทคโนโลยี Audio-Native ในฝั่งอินพุตเท่านั้น ส่วนระบบ Text-to-Speech (TTS) ยังคงแยกส่วนไว้เพื่อให้ทีมงานสามารถควบคุมโทนเสียงเอาต์พุตได้อย่างแม่นยำ
• โมเดลทำงานในรูปแบบ request-based LLM ซึ่งจะถูกเรียกใช้งานเฉพาะเมื่อจำเป็นเท่านั้น ต่างจากระบบสตรีมแบบ always-on ที่ต้องใช้ทรัพยากร GPU ตลอดเวลา
• ระบบสลับคิวพูดจะใช้ token แรกของเอาต์พุตในการตัดสินใจทันทีผ่านค่า EMPTY, ONGOING หรือ COMPLETE เพื่อความรวดเร็วในการโต้ตอบ
• จากการใช้งานจริง PolyAI พบว่ามีความเร็วในการตอบสนองต่ำกว่า 300ms ช่วยเพิ่มอัตราการจบสนทนาด้วยหุ่นยนต์ (containment) ในธุรกิจร้านอาหารได้ 11% และลดความล่าช้า (latency) ในธุรกิจประกันภัยลงถึง 37%
• ในระยะแรกจะรองรับเฉพาะภาษาอังกฤษและให้บริการผ่านแพลตฟอร์มของ PolyAI โดยยังไม่มีการเปิดรูปแบบ open weights หรือ public API ในขณะนี้

ความพร้อมใช้งานและกลุ่มเป้าหมาย

ปัจจุบัน Dialog-RSN-1 เปิดให้ใช้งานเฉพาะลูกค้าของ PolyAI เท่านั้น โดยลูกค้าเดิมสามารถเริ่มใช้งานได้ทันที ส่วนองค์กรที่สนใจสามารถลงทะเบียนเพื่อ ขอรับสิทธิ์เข้าถึงล่วงหน้า (early access)

โซลูชันนี้มุ่งเน้นไปที่องค์กรขนาดใหญ่ที่มีปริมาณการโทรสูง ซึ่ง PolyAI มีฐานลูกค้าองค์กรมากกว่า 100 ราย และมีการติดตั้งใช้งานจริงกว่า 2,000 แห่ง หลังจากระดมทุนระดับ $86M Series D เมื่อเดือนธันวาคม 2025 โดยครอบคลุมอุตสาหกรรมหลากหลาย เช่น ร้านอาหาร, ประกันภัย, การดูแลสุขภาพ ไปจนถึง การเดินทาง

แอปพลิเคชันที่รองรับมีตั้งแต่ การจองและสำรองที่นั่ง, การเรียกเก็บเงิน, การยืนยันตัวตน ไปจนถึง การแก้ไขปัญหา ต่างๆ

สถาปัตยกรรมเบื้องหลัง

ในตลาดปัจจุบันมีสถาปัตยกรรมหลักสองแบบคือ Cascaded stack ที่มักจะสูญเสียโทนเสียงและความลังเลของมนุษย์ไประหว่างทาง และ Speech-to-speech เช่น GPT Realtime ที่ควบคุมการออกเสียงได้ยากและสิ้นเปลือง GPU

Dialog-RSN-1 เลือกใช้แนวทางที่สมดุลกว่าด้วยการประมวลผลจากเสียงดิบในฝั่งอินพุต แล้วส่งต่อให้ TTS แยกส่วนจัดการต่อ โดยทำงานร่วมกับระบบ Voice Activity Detection (VAD) ความแม่นยำสูงเพื่อตัดสินใจรันโมเดลเฉพาะเมื่อจำเป็น ทำให้ประหยัดทรัพยากรแต่ยังคงรักษาบริบทการสนทนาและการสลับคิวพูดได้อย่างเป็นธรรมชาติ

กระบวนการพัฒนาและผลลัพธ์

PolyAI พัฒนาโมเดลนี้ผ่านการทำ post-training และ finetuning ทั้งแบบ supervised และ reinforcement บนข้อมูลภายใน โดยเน้นสถาปัตยกรรมแบบ base-model agnostic ที่สามารถประยุกต์ใช้กับโมเดลพื้นฐานอย่าง Gemma, Qwen หรือ Mistral ได้ เพื่อให้ได้ความเร็วต่ำกว่า 300ms บน GPU A100 ทีมงานได้ใช้เทคนิคขั้นสูง เช่น การ prefilling attention cache ระหว่างที่ผู้ใช้กำลังพูด และการใช้ speculative drafter ที่ช่วยเพิ่มอัตราการสร้าง token เฉลี่ยที่ 3.9 tokens ต่อรอบ

จากการทดสอบบน Dialog-Eval พบว่า Dialog-RSN-1 ทำคะแนนได้สูงกว่าระบบ cascaded ทั่วไปและ GPT Realtime 2.1 ในด้านการรับรู้เสียง และยังมีค่าความผิดพลาดในการถอดความ (WER) ที่ต่ำกว่า gpt-4o-transcribe แม้จะได้รับบริบทชุดเดียวกันก็ตาม

สำหรับก้าวต่อไป PolyAI ยังแนะนำให้ใช้ Raven 3.5 สำหรับภาษาอื่นๆ และงานเว็บแชทที่ซับซ้อน โดยบริษัทมีแผนจะเผยแพร่รายงานทางเทคนิคและงานวิจัยเชิงลึกเกี่ยวกับ Dialog-Eval ในอนาคต

สามารถตรวจสอบ รายละเอียดทางเทคนิคได้ที่นี่