อดีตนักวิจัย OpenAI เปิดตัว Jev โมเดล AI เน้นตัดสินใจแทนการเขียน

สตาร์ทอัพ TypeSafe AI ได้สร้างโมเดลที่ชื่อว่า Jev ซึ่งเน้นการตัดสินใจที่รวดเร็วภายในซอฟต์แวร์แทนที่จะเป็นการเขียนข้อความโต้ตอบ ข้อดีที่สำคัญคือความเร็วและราคาที่ถูกลงอย่างมาก แต่ก็มาพร้อมกับข้อจำกัดในการใช้งานที่เข้มงวดเช่นกัน

TypeSafe AI เปิดตัวโมเดล AI ชื่อ Jev ที่ใช้แนวทางแตกต่างจากแชทบอททั่วไป แทนที่จะสร้างข้อความ อีเมล หรือโค้ด Jev ถูกสร้างขึ้นมาเพื่อตัดสินใจในขอบเขตที่กำหนดและคำนวณความน่าจะเป็นภายในโปรแกรมอื่น โดยมี Diogo Almeida อดีตนักวิจัยจาก OpenAI และหนึ่งในผู้เขียนงานวิจัย InstructGPT เป็นผู้ร่วมก่อตั้งและ CEO

แนวคิดหลักของ Jev คือการให้นักพัฒนาเป็นผู้กำหนดคำถามและตัวเลือกคำตอบที่ต้องการ จากนั้นโมเดลจะทำหน้าที่ประเมินและให้คะแนนความน่าจะเป็นของตัวเลือกเหล่านั้นโดยเฉพาะ

การจัดเรียงคำขอแทนการตอบคำถามลูกค้า

ตัวอย่างจาก เอกสารประกอบ แสดงให้เห็นการนำไปใช้งานจริง เช่น เมื่อลูกค้าร้านค้าออนไลน์แจ้งปัญหาการถูกเรียกเก็บเงินซ้ำและขอคืนเงิน ระบบต้องจัดเรียงประเภทคำขอก่อนว่าเป็นเรื่องการชำระเงิน การส่งสินค้า หรือการคืนสินค้า และลูกค้าต้องการเงินคืนหรือแค่คำอธิบาย

ในจุดนี้นักพัฒนาจะเชื่อมต่อซอฟต์แวร์เข้ากับ Jev เพื่อกำหนดคำถามและตัวเลือกคำตอบ เมื่อมีข้อความใหม่เข้ามา ระบบจะส่งข้อมูลไปให้ Jev ประมวลผล สิ่งที่ได้รับกลับมาไม่ใช่ข้อความตอบกลับ แต่เป็นป้ายระบุ (label) เช่น "ปัญหาการชำระเงิน" พร้อมค่าความน่าจะเป็นที่ลูกค้าต้องการเงินคืน

ซอฟต์แวร์ของร้านค้าสามารถตั้งกฎเกณฑ์ต่อได้ทันที เช่น ปัญหาการชำระเงินให้ส่งไปยังฝ่ายบัญชี หรือคำขอคืนเงินให้ทำเครื่องหมายไว้ หากป้ายระบุไม่ชัดเจนจึงค่อยส่งให้พนักงานตรวจสอบ โดย Jev จะทำหน้าที่เป็นตัวประเมินผลเพื่อให้ซอฟต์แวร์ตัดสินใจตามกฎที่ตั้งโปรแกรมไว้

อย่างไรก็ตาม ระบบนี้ไม่ได้คืนเงินให้ทันที การตรวจสอบธุรกรรมจริงยังต้องดำเนินการในขั้นตอนถัดไป และอาจใช้แชทบอทแยกต่างหากเพื่อแจ้งสถานะให้ลูกค้าทราบ แต่สำหรับการจัดเรียงข้อมูลเบื้องต้นนั้น โมเดลภาษาแบบเน้นข้อความอาจไม่มีความจำเป็น

ความเร็วระดับมิลลิวินาทีที่เปิดโอกาสใหม่ๆ

TypeSafe ระบุว่า Jev สามารถตอบสนองได้ภายใน 70 ถึง 500 มิลลิวินาที ซึ่งเร็วกว่าโมเดลภาษาทั่วไปหลายเท่า เนื่องจากโมเดลข้ามขั้นตอนการสร้างข้อความทีละคำ และสามารถคำนวณผลลัพธ์หลายรายการขนานกันได้ ทำให้การเพิ่มคำถามในการเรียกใช้ครั้งเดียวแทบไม่ส่งผลต่อเวลาที่ใช้

ความเร็วดังกล่าวช่วยให้สามารถตรวจสอบข้อมูลก่อนการตอบกลับของ AI assistant ได้ เช่น ตรวจสอบว่าคำตอบขัดแย้งกับการสนทนาก่อนหน้าหรือไม่ หรือมีการเคลมเงินคืนที่ไม่มีในระบบหรือไม่ ซึ่ง TypeSafe ได้อธิบายกระบวนการนี้ไว้ใน ตัวอย่างเวิร์กโฟลว์ นอกจากนี้ยังประยุกต์ใช้ใน การขายและการบริการลูกค้า เพื่อตรวจจับเจตนาซื้อหรือตัดสินใจว่าเมื่อใดควรโอนสายให้มนุษย์

แม้โมเดลภาษาทั่วไปอย่าง OpenAI จะมีบริการ Structured Outputs เพื่อส่งข้อมูลในรูปแบบโครงสร้างได้เช่นกัน แต่ Jev พยายามสร้างจุดแข็งที่ความเร็วและราคา โดยระบุค่าใช้จ่ายเพียง $0.042 ต่อ 1 ล้าน input tokens และไม่มีการคิดค่าใช้จ่ายสำหรับ output

ทั้งนี้ การทดสอบประสิทธิภาพที่เผยแพร่ ยังเป็นข้อมูลภายในที่เปรียบเทียบกับเวิร์กโฟลว์ที่บริษัทสร้างขึ้นเอง ไม่ใช่การตรวจสอบจากหน่วยงานอิสระ และยังไม่ได้เปรียบเทียบกับโมเดลระดับสูงรุ่นใหม่ๆ อย่าง GPT-4o ในบางแง่มุม

การไม่มีอาการหลอนไม่ได้หมายความว่าไม่ผิดพลาด

TypeSafe นำเสนอว่า Jev เป็นโมเดลที่ไม่มีอาการหลอน (hallucination) แต่การรับประกันนี้หมายถึงเฉพาะ "โครงสร้างคำตอบ" เท่านั้น โดยโมเดลจะไม่สร้างคำตอบนอกเหนือจากตัวเลือกที่กำหนดไว้ อย่างไรก็ตาม การเลือกตัวเลือกที่ผิดพลาดไปจากข้อเท็จจริงยังคงมีโอกาสเกิดขึ้นได้

โมเดลนี้ออกแบบมาเพื่อให้การตัดสินใจย่อยๆ จำนวนมากในระบบเบื้องหลังมีความคุ้มค่าและรวดเร็วขึ้น ส่วนความน่าเชื่อถือจะเป็นสิ่งที่แต่ละบริษัทต้องนำไปทดสอบกับลักษณะงานของตนเอง ปัจจุบันนักพัฒนาที่สนใจสามารถลงชื่อเพื่อขอสิทธิ์เข้าใช้งานได้ผ่าน waitlist