TypeSafe AI เปิดตัว Jev 1.14 รองรับรูปภาพและ Context 262k

TypeSafe AI ได้ปล่อย Jev 1.14 ซึ่งเป็นเวอร์ชันล่าสุดของโมเดลการตัดสินใจ System One โดยเปิดให้ใช้งานแล้วภายใต้นามแฝง jev-preview เวอร์ชันนี้มีการเพิ่มฟีเจอร์ทดลองในกลุ่ม 'danger zone' 3 อย่าง ได้แก่ การรองรับรูปภาพ, ประเภทข้อมูล box และการขยาย Context window ให้ยาวขึ้น

สำหรับนักพัฒนา Jev 1.14 ได้ยกระดับโมเดลการตัดสินใจแบบระบุประเภท (typed decision model) ไปสู่งานด้าน vision เช่น การตรวจสอบและการระบุตำแหน่งวัตถุ อย่างไรก็ตาม TypeSafe ได้ระบุหมายเหตุสำคัญว่าฟีเจอร์ใหม่ทั้ง 3 อย่างนี้ยังอยู่ในขั้นทดลองและไม่พร้อมสำหรับการใช้งานจริง (production)

TL;DR: Jev 1.14

• ขนาด: ไม่เปิดเผยจำนวนพารามิเตอร์ โดยมี Context เริ่มต้นที่ 64k โทเค็นต่อ request และ 32k ต่อคำถาม หรือขยายได้ถึง 262k เมื่อเลือกใช้ผ่าน header
• รันบน: API โฮสต์ของ TypeSafe เท่านั้น (POST /v1/systemone) ไม่มี open weights และไม่เปิดเผยข้อมูลฮาร์ดแวร์หรือรุ่น quantized
• ประสิทธิภาพ: มีการปรับปรุงเล็กน้อยในทุกด้าน โดยเฉพาะการรองรับหลายภาษาที่เคลมว่าพัฒนาขึ้นมากที่สุด แม้จะยังไม่มีคะแนนทดสอบสาธารณะยืนยัน
• จุดเด่น: ในการทดสอบประเภท Box ของ TypeSafe พบว่าคำถามตรวจสอบขอบ 4 ข้อสามารถตรวจพบการตัดขอบรูปได้ 30 จาก 36 ครั้ง
• จุดด้อย: ฟีเจอร์รูปภาพและ Box ยังไม่เสถียรพอสำหรับงานหลัก และประเภท Box ยังไม่มีตัวเลือกคำตอบสำหรับกรณี "ไม่พบวัตถุ"

Jev 1.14 คืออะไร?

Jev คือ System One model จาก TypeSafe AI ที่เน้นส่งคืนค่าการตัดสินใจแบบระบุประเภทแทนการสร้างข้อความอิสระ ผู้ใช้สามารถส่ง state พร้อมกับ questions ที่ระบุประเภท เช่น Choice, Score หรือ Noul โดย Jev จะตอบแต่ละข้อพร้อมค่าความน่าจะเป็นและคะแนนความเชื่อมั่น ซึ่งฝึกฝนด้วยเทคนิค Reinforcement Learning for Calibrated Decisions (RLCD)

เวอร์ชันใหม่ jev-1.14.0 เน้นการปรับปรุงประสิทธิภาพในภาพรวมตาม โพสต์ประกาศเปิดตัว ซึ่ง TypeSafe คาดหวังว่าจะเห็นความก้าวหน้าชัดเจนที่สุดในด้านการใช้งานที่รองรับหลากหลายภาษามากขึ้น

การรับอินพุตเป็นรูปภาพใน Jev ทำงานอย่างไร?

การใช้งานรูปภาพสามารถทำได้โดยระบุรูปไว้ในแผนผัง assets ระดับบนสุดภายใต้สตริงอ้างอิง จากนั้นจึงนำการอ้างอิงนั้นไปวางในตำแหน่งใดก็ได้ใน state, instructions หรือ criteria โดยตัว API จะทำการสลับการอ้างอิงเป็นรูปภาพให้โดยอัตโนมัติก่อนที่โมเดลจะประมวลผล

แม้ TypeSafe จะระบุว่า jev-1.13.0 เป็นแบบ multimodal มาแต่แรกตาม เอกสารรูปภาพ แต่ทั้ง Jev 1.13 และ 1.14 จะใช้งานรูปภาพได้ก็ต่อเมื่อมีการใส่ header TypeSafe-Danger-Zone-Images: true ในการเรียกใช้งานเท่านั้น

ข้อจำกัดหลักของรูปภาพ:

• รองรับไฟล์ภาพนิ่ง PNG หรือ JPEG ขนาดสูงสุด 16 MiB ต่อไฟล์
• ความกว้างและยาวต้องอยู่ระหว่าง 256 ถึง 1,568 พิกเซล
• ขนาด request body รวมห้ามเกิน 32 MiB
• รูปภาพจะถูกคิดค่าบริการตามอัตราอินพุตโทเค็นปกติ ไม่มีการเก็บค่าบริการเพิ่ม

อย่างไรก็ตาม TypeSafe เตือนว่าประสิทธิภาพในการประมวลผลรูปภาพอาจด้อยกว่าข้อความล้วน จึงแนะนำให้ใช้คำถามที่เรียบง่ายที่สุดเพื่อให้ได้ผลลัพธ์ที่แม่นยำ

ประเภท Box ใหม่คืออะไร?

Box คือคำถามประเภทใหม่ที่ใช้ส่งคืน bounding box จำนวน 1 กล่องต่อคำถาม โดยจะให้ค่าพิกัดขอบ top, bottom, left และ right เป็นทศนิยมตั้งแต่ 0 ถึง 1 พร้อมคะแนนความเชื่อมั่น การใช้งานฟีเจอร์นี้ต้องใช้โมเดล jev-1.14.0 หรือ jev-preview ร่วมกับ header สำหรับรูปภาพ

ข้อควรระวังคือ Box จะส่งคืนค่ากล่องเสมอแม้จะไม่พบวัตถุที่ต้องการในรูป TypeSafe จึงแนะนำให้ใช้คู่กับคำถามแบบ Noul เพื่อตรวจสอบว่ามีวัตถุนั้นอยู่จริงหรือไม่ก่อนนำค่าพิกัดไปใช้งาน

จากการทดสอบกับภาพวาด 36 รูปที่ถูกตัดบางส่วนออก พบว่าการใช้คำถาม Noul 4 ข้อเพื่อตรวจสอบขอบสามารถตรวจพบจุดที่ถูกตัดได้ 30 ครั้ง ขณะที่การใช้คำถามเชิงยืนยันเพียงข้อเดียวหรือการวาดกล่องครอบแล้วถามซ้ำให้ผลลัพธ์ที่แม่นยำน้อยกว่า

Context window ของ Jev ยาวแค่ไหนในตอนนี้? โดยปกติโมเดลจะจำกัด Context ไว้ที่ 64k โทเค็นต่อ request และ 32k ต่อคำถาม แต่หากส่ง header TypeSafe-Danger-Zone-Long-Context: true จะสามารถขยายขีดจำกัดทั้งสองขึ้นไปได้ถึง 262k โทเค็น

ตาม เอกสารโมเดล ระบุว่าแม้ตัวโมเดลจะรองรับได้มากกว่านี้ แต่การจำกัดไว้เนื่องจากความน่าเชื่อถือของคำตอบจะลดลงเมื่อต้องรับข้อมูลที่ยาวเกินไป ทีมพัฒนาจึงยังคงแนะนำให้ใช้ Context แบบสั้นหากเป็นไปได้

ผลการทดสอบ (Benchmarks) และราคา

ใน โพสต์ประกาศเปิดตัว TypeSafe ได้เผยแพร่แผนภูมิเปรียบเทียบกับโมเดลแบบ open-weight แต่ไม่ได้ลงรายละเอียดคะแนนเป็นตัวเลข โดยยอมรับว่าการวัดผลภายในอาจมีความลำเอียงและแนะนำให้นักพัฒนาทดสอบด้วยชุดข้อมูลของตนเองเป็นหลัก

ด้านราคาไม่มีการเปลี่ยนแปลง โดยคงอยู่ที่ 0.042 ดอลลาร์ต่อล้านอินพุตโทเค็น และไม่มีค่าธรรมเนียมสำหรับเอาต์พุตโทเค็น ตามที่ระบุไว้ใน เอกสารโมเดล

สำหรับการย้ายระบบ jev-preview จะชี้ไปยังเวอร์ชัน 1.14.0 ทันที ส่วน jev-latest จะเปลี่ยนตามในหนึ่งสัปดาห์ โดยโมเดลเวอร์ชัน 1.13.0 จะยังใช้งานได้ต่อไปอีกอย่างน้อย 60 วันหลังจากมีการแจ้งยกเลิกการรองรับ

Jev 1.14 เปรียบเทียบกับรุ่นอื่น