Anthropic เปิดตัว Message Threads ลดเวลาสร้างโทเค็นแรก 35%

Anthropic ได้เปิดตัว Message Threads ในรูปแบบ public beta บนแพลตฟอร์ม Claude ของตน เพื่อยกระดับประสิทธิภาพการทำงานของเอเยนต์อัจฉริยะ จากเดิมที่การเรียกใช้งานผ่าน API จำเป็นต้องส่งประวัติการสนทนาทั้งหมดซ้ำในทุกการโต้ตอบ แต่ด้วยระบบใหม่นี้จะมีการส่งเฉพาะข้อมูลส่วนที่เปลี่ยนแปลงไปจากข้อความล่าสุดเท่านั้น

การปรับปรุงดังกล่าวนำไปสู่ผลลัพธ์ที่ชัดเจน โดยเฉพาะคำขอที่มีขนาดใหญ่ระหว่าง 500,000 ถึง 1 ล้านโทเค็น ซึ่งพบว่าสามารถลดเวลาในการสร้างโทเค็นแรก (time to first token) ลงได้ประมาณ 35 เปอร์เซ็นต์ ตามข้อมูลจาก Anthropic

ทางบริษัทระบุว่า กลุ่มที่จะได้รับประโยชน์สูงสุดจากเทคโนโลยีนี้คือ coding agents, computer-use agents รวมถึงกระบวนการทำงานที่ต้องประมวลผลเอกสารหรือรูปภาพจำนวนมหาศาล โดย Thread จะถูกเข้ารหัสไว้ในหน่วยความจำระหว่างการส่งคำขอ และจะหมดอายุอัตโนมัติหากไม่มีการเคลื่อนไหวเป็นเวลา 5 นาที

แม้ความเร็วจะเพิ่มขึ้น แต่การใช้โทเค็นยังคงเดิมเนื่องจาก Claude ยังจำเป็นต้องอ่านประวัติการสนทนาฉบับเต็มเพื่อความถูกต้องแม่นยำ ปัจจุบันฟีเจอร์นี้เปิดให้ใช้งานแล้วบนแพลตฟอร์ม Claude และผ่านผู้ให้บริการคลาวด์ชั้นนำทั้ง AWS, Microsoft Foundry และ Google Cloud โดยผู้สนใจสามารถศึกษารายละเอียดเพิ่มเติมได้ที่ documentation