tag: Prompt Caching

GPT-6 อัปเกรด Prompt Caching ใหม่ ลดต้นทุนและค่าความหน่วง

GPT-6 อัปเกรด Prompt Caching ใหม่ ลดต้นทุนและค่าความหน่วง

· By: NatapolK
OpenAI ปรับปรุงระบบ Prompt Caching สำหรับ GPT-6 เพิ่มเครื่องมือวินิจฉัยและจุดพักแบบกำหนดเอง ช่วยให้นักพัฒนารับส่วนลดค่า input tokens สูงสุด 90% และประมวลผลได้เร็วขึ้น
AI กลายเป็นลูกค้าหลักของ AI! ยอดใช้ Token ของ Agent บน OpenRouter พุ่งกระฉูด 14 เท่า

AI กลายเป็นลูกค้าหลักของ AI! ยอดใช้ Token ของ Agent บน OpenRouter พุ่งกระฉูด 14 เท่า

· By: AttapolK
ข้อมูลจาก OpenRouter เผยว่า AI Agent มีการใช้งาน Token แซงหน้ามนุษย์ไปแล้วตั้งแต่ต้นปี 2025 โดยเติบโตสูงถึง 14 เท่า แม้ส่วนใหญ่จะเป็นการใช้งานผ่าน Prompt Caching ราคาถูกก็ตาม
ทำความรู้จัก Shepherd: Python Substrate แบบ Open-Source ที่ช่วยให้ Meta-Agent สั่ง Fork และ Replay การทำงานของ AI Agent ได้

ทำความรู้จัก Shepherd: Python Substrate แบบ Open-Source ที่ช่วยให้ Meta-Agent สั่ง Fork และ Replay การทำงานของ AI Agent ได้

· By: NatapolK
นักวิจัยจาก Northeastern และ Stanford เปิดตัว Shepherd ระบบ Runtime ภาษา Python ที่บันทึกทุก State ของ Agent ในรูปแบบ execution trace ช่วยให้สามารถย้อนกลับหรือแตกกิ่งการทำงานได้เร็วกว่า Docker 5 เท่า และประหยัด Token ได้มหาศาล