Microsoft เปิดตัว Copilot harness เครื่องมือจัดการเอเจนต์หลายโมเดล

· By: SirilukP

หากคุณต้องการแข่งขันในตลาด AI การรองรับการทำงานแบบหลายโมเดล (Multi-model) ถือเป็นเรื่องจำเป็น แต่การสร้างระบบที่ทำงานเชื่อมต่อกันได้อย่างไร้รอยต่อในหลายพื้นผิวนั้นเป็นเรื่องที่ยากอย่างเหลือเชื่อ เพราะคุณต้องจัดการทั้งปัญหาด้านประสิทธิภาพ คุณภาพ และต้นทุน รวมถึงการบำรุงรักษาในระยะยาวที่ยากยิ่งกว่าเดิม

โชคดีที่ทีมวิศวกรของ GitHub ได้พัฒนา harness แบบหลายโมเดลอย่างแท้จริงและดีที่สุดในระดับเดียวกัน ซึ่งเราได้นำมาใช้ภายใน Microsoft อย่างแพร่หลาย ไม่ว่าจะเป็น Copilot Code, Copilot Studio, GitHub Copilot, CLI และ VS Code

ล่าสุดเรากำลังเปิดให้ใช้งาน harness ดังกล่าวผ่าน Microsoft Foundry เพื่อช่วยให้นักพัฒนาและองค์กรมีวิธีจัดการเอเจนต์ที่สมบูรณ์แบบ สามารถใช้เหตุผลและเครื่องมือทำงานซับซ้อนได้สำเร็จ โดยผู้ใช้จะได้รับโมเดลที่เหมาะสมกับงานโดยไม่ต้องเปลี่ยน tech stack ใหม่ ช่วยประหยัดเวลาและทรัพยากรเพื่อไปโฟกัสที่การสร้างกำไรแทน

harness คืออะไร และทำไมมันถึงยาก?

หากเปรียบโมเดลเป็นสติปัญญา harness ก็คือทุกสิ่งรอบตัวโมเดล โดยทำหน้าที่เป็นเลเยอร์การประสานงาน (orchestration layer) ที่คอยให้คำแนะนำ บริบท สภาพแวดล้อม และการควบคุมแก่เอเจนต์ นอกจากนี้ harness ที่ดีต้องรองรับมาตรฐานเปิดอย่าง MCP รวมถึงทักษะและปลั๊กอินของเอเจนต์ด้วย เนื่องจากเทคโนโลยี AI เปลี่ยนแปลงเร็วมาก Frontier model ที่ล้ำสมัยในวันนี้อาจล้าหลังได้ในวันพรุ่งนี้ การสร้าง harness หรือ model router เองจึงเป็นเรื่องที่ล่าช้าและยุ่งยาก การเลือกใช้โครงสร้างเดียวกับที่ Microsoft และ GitHub ใช้งานจริง จะช่วยให้คุณไม่ต้องแบกรับภาระในการบำรุงรักษาเอง

เราลงทุนในงานด้านวิทยาศาสตร์และวิศวกรรมเพื่อพัฒนา harness อย่างต่อเนื่อง เพื่อรับประกันประสิทธิภาพสูงในราคาที่ต่ำสำหรับหลากหลายเวิร์กโหลด ซึ่งประโยชน์เหล่านี้จะส่งถึงลูกค้าโดยตรง เมื่อมีการปรับปรุง harness ทุกบริการที่เชื่อมต่ออยู่จะได้รับประสิทธิภาพที่ดีขึ้นตามไปด้วย

ถือกำเนิดใน GitHub ผ่านการทดสอบในสนามจริงในระดับองค์กร

Copilot harness ถูกสร้างขึ้นโดยทีมวิศวกร GitHub ชุดเดียวกับที่พัฒนา การประสานงานหลายโมเดล ระบบนี้ถูกออกแบบมาให้รันได้รวดเร็ว ประหยัด token และคาดการณ์ผลลัพธ์ได้แม่นยำ จนได้รับความพึงพอใจสูงสุดจากกลุ่มนักพัฒนาที่ต้องการความละเอียดสูง เราจึงใช้สิ่งนี้เป็นรากฐานสำคัญให้ประสบการณ์ Copilot ทั้งหมด

harness นี้รองรับการ ทำงานร่วมกับทุกตระกูลโมเดล มากกว่า 20 แบบ พร้อมความสามารถในการนำ key มาเอง (bring your own key) เพื่อให้คุณเลือกใช้โมเดลที่เหมาะสมที่สุด โดยระบบจะทำหน้าที่ส่งต่องานไปยังโมเดลที่คู่ควรโดยอิงตามประเภทงานอย่างชาญฉลาด

นอกจากความยืดหยุ่นที่ใช้ได้กับทุกแอปหรือเอเจนต์แล้ว เรายังได้ พอร์ต harness runtime ไปยัง Rust ซึ่งช่วยลด overhead ของเซสชันและเพิ่มความเร็วในการสร้าง token แรก (time-to-first token) ระบบนี้ผ่านการทดสอบในระดับผู้ใช้งานหลายล้านคนและกรณีใช้งานจริงนับร้อยรายการ จึงมั่นใจได้ในประสิทธิภาพ

การมี harness ที่เป็นหนึ่งเดียวช่วยให้เราจัดส่งฟีเจอร์ใหม่ได้เร็วขึ้น และเมื่อเอเจนต์ใน Foundry ทำงานบนระบบเดียวกับที่ Microsoft ใช้ การปรับปรุงใดๆ ที่เกิดขึ้นจะส่งผลดีต่อเอเจนต์ของคุณทันที

ทดลองด้วยตัวคุณเอง

ปัจจุบัน SDK พร้อมให้ดาวน์โหลดแล้ว หรือสามารถรัน harness บนระบบคลาวด์ที่จัดการโดย Foundry ได้โดยตรง แพลตฟอร์มของเรายังคงเปิดกว้างให้คุณสามารถนำ harness หรือ framework อื่นๆ ที่ต้องการเข้ามาใช้งานร่วมกันได้

การใช้ Copilot harness จะทำให้ Microsoft ทำหน้าที่ดูแลรันลูปของเอเจนต์และ sandbox พร้อมระบบกำกับดูแลที่ถูกเพิ่มประสิทธิภาพมาตั้งแต่ต้น คุณเพียงแค่เตรียมคำแนะนำ ทักษะ เครื่องมือ และเลือกโมเดลที่ต้องการเท่านั้น

นี่คือขั้นตอนสำคัญสู่วิสัยทัศน์ในการสร้างระบบที่แข็งแกร่งรอบโมเดลโดยยังคงรักษาทางเลือกของผู้ใช้ไว้ ซึ่งเป็นการนำสิ่งที่ดีที่สุดของ GitHub มาสู่แพลตฟอร์ม Microsoft เพื่อให้คุณมุ่งเน้นไปที่การสร้างสรรค์สิ่งใหม่ได้อย่างเต็มที่

Source: Microsoft Blog
ดูแลงานแปลและเรียบเรียงโดย SirilukP

ความคิดเห็น (0)

เข้าสู่ระบบเพื่อร่วมแสดงความเห็น

สมัครสมาชิก

มาเป็นคนแรกที่แสดงความเห็นกันเลยโบร