โมเดลเสียง Dessa สมจริงจนน่ากลัว ทำคนกังวลเรื่องมิจฉาชีพ

เรื่องย่อ

กระทู้นี้กลายเป็นไวรัลเมื่อคุณ u/Puzzleheaded-King584 ได้แชร์วิดีโอสาธิตของ Dessa ซึ่งเป็นโมเดล Speech-to-Speech แบบ full-duplex ที่มีความพิเศษคือสามารถรันบน GPU ของคอมพิวเตอร์ทั่วไปได้เลย โดยเจ้าของกระทู้ถึงกับออกปากว่านี่คือจุดเปลี่ยนสำคัญเหมือนตอนที่ GPT-3 เปิดตัวใหม่ๆ เพราะความสมจริงของน้ำเสียงและการโต้ตอบนั้นล้ำหน้าไปมาก กระทู้นี้ได้รับความสนใจอย่างล้นหลามด้วยคะแนนกว่า 1,000 upvote และคอมเมนต์อีกกว่า 300 ข้อความที่ทั้งทึ่งและหวาดกลัวในเวลาเดียวกัน

คนในกระทู้ว่าอย่างไร

• คอมเมนต์ส่วนใหญ่รู้สึกทึ่งในความสมจริง โดยเฉพาะจังหวะการลงเสียง การเน้นคำ และการแทรกคำสร้อยที่ดูเป็นธรรมชาติมากจนบางคนยอมรับว่าถ้าไม่ได้ดูป้ายกำกับ ก็แยกไม่ออกว่าคนไหนคือมนุษย์คนไหนคือ AI
• มีความกังวลอย่างหนักเรื่องความปลอดภัย โดยหลายคนมองว่าเทคโนโลยีนี้อาจถูกนำไปใช้ในงานที่อันตราย เช่น การทำ Social Engineering หรือการหลอกลวง (scams) จนถึงขนาดแซวว่าเจ้าหน้าที่ต่อต้านการฉ้อโกงในอนาคตอาจต้องมีทักษะการสอบสวนระดับ CIA เพื่อแยกแยะหุ่นยนต์เหล่านี้
• มีคนตั้งข้อสังเกตเรื่องความสมเหตุสมผลของเนื้อหา (Logic) โดยพบว่าแม้เสียงจะสมจริงมาก แต่ตัวแบบจำลองยังขาดความฉลาดในการประมวลผล เช่น การพูดโกหกว่าเด็กทารกอายุแค่หนึ่งสัปดาห์เริ่มอยากคุยโทรศัพท์แล้ว หรือจำชื่อลูกผิดไปมาในช่วงท้ายคลิป ซึ่งเป็นจุดบอดที่ทำให้รู้ว่าเป็น AI
• เกิดการถกเถียงเรื่องสำเนียงการพูด (Dialect) เนื่องจาก AI ในคลิปใช้รูปแบบการพูดแบบคนดำ (AAE) ซึ่งมีทั้งคนที่มองว่าเป็นการนำเสนอความหลากหลายที่น่าชื่นชม และคนที่มองว่าเป็นการเลือกใช้รูปแบบการพูดที่ฟังดูไม่เป็นธรรมชาติสำหรับบางบริบท
• ชาวเน็ตบางส่วนยังกังขาว่าคลิปนี้เป็นของจริงหรือไม่ โดยสงสัยว่าอาจเป็นการใช้คนจริงๆ มาพูดแก้ต่างไปก่อนจนกว่าจะมีการปล่อยโมเดลให้ใช้งานได้ทั่วไปจริงๆ เพราะความสามารถที่เห็นนั้นดูดีเกินไป