PreTxt เปิดตัวเทคโนโลยี AI Supervision พร้อมคว้าทุน Seed 5 ล้านดอลลาร์
PreTxt บริษัทเทคโนโลยีที่มีสำนักงานในเมือง Aspen รัฐโคโลราโด และกรุงดับลิน ประเทศไอร์แลนด์ ได้ประกาศเปิดตัวอย่างเป็นทางการหลังสิ้นสุดช่วง Stealth พร้อมคว้าเงินทุนระดับ Seed จำนวน 5 ล้านดอลลาร์ จากกลุ่มนักลงทุนอย่าง Deciens Capital, Howdy Partners และ Service Provider Capital
การระดมทุนครั้งนี้ส่งผลให้ PreTxt ก้าวเข้าสู่กลุ่มบริษัทเทคโนโลยีที่กำลังเติบโตอย่างรวดเร็ว โดยมุ่งเน้นการพัฒนาเทคโนโลยีเพื่อป้องกันไม่ให้ AI agent หลุดออกจากขอบเขตการควบคุม (guardrails) จนก่อให้เกิดความเสียหายที่ไม่ตั้งใจต่อธุรกิจ
ธรรมชาติของ AI มีความใกล้เคียงกับบุคลิกของมนุษย์มากกว่ารหัสคอมพิวเตอร์ทั่วไป เพราะมันสามารถรับ ตีความ หรือแม้แต่ตีความคำสั่งที่คลุมเครือผิดพลาดได้ การผสมผสานระหว่างการตีความผิดและการมีอำนาจสั่งการที่กว้างขวาง จึงเป็นปัจจัยหลักที่ทำให้ AI agent กลายเป็นพวกนอกลู่นอกทาง (rogue) และอาจเป็นอันตรายต่อระบบงาน เนื่องจากการกำจัดความคลุมเครือในภาษามนุษย์ที่ใช้สั่งงาน agent แทบจะเป็นไปไม่ได้ ทางเลือกเดียวในการควบคุมคือการจำกัดอำนาจการดำเนินการ (agency) แต่หากเข้มงวดเกินไปก็จะกลายเป็นการปิดกั้นโอกาสทางธุรกิจ ดังนั้น ความต้องการระบบควบคุมดูแลหมวดหมู่ใหม่ที่เรียกว่า Supervision control จึงอุบัติขึ้น เพื่อทำหน้าที่ตรวจจับและควบคุมการกระทำของ agent ในขณะทำงาน (runtime) ก่อนจะเกิดความเสียหาย
PreTxt ได้นำเสนอโซลูชันภายใต้ชื่อ AI Supervision ซึ่งเป็นเทคโนโลยี runtime ที่สร้างขึ้นเฉพาะทางเพื่อควบคุมดูแล AI agent โดยเฉพาะ โดยจะคอยนำทางพวกมันให้กลับเข้าสู่เส้นทางที่ถูกต้องในขณะปฏิบัติงาน เพื่อป้องกันไม่ให้ความผิดพลาดลุกลามจนส่งผลกระทบต่อธุรกิจ
Aaron Costello ผู้ร่วมก่อตั้งและ CTO ของ PreTxt อธิบายว่า แทนที่จะเป็นการสั่งปิดการทำงานหรือทำลายความสามารถของ agent ไปเลย ทางบริษัทใช้วิธีการเฝ้าติดตามลักษณะการโต้ตอบกับระบบและบุคคลอื่นอย่างต่อเนื่อง เพื่อรับรองว่าการทำงานทั้งหมดสอดคล้องกับมาตรฐานทางธุรกิจและเป็นไปตามความคาดหวัง เช่นเดียวกับการบริหารพนักงานคนหนึ่ง
หาก agent ทำงานเกินขอบเขตหรือเบี่ยงเบนจากวัตถุประสงค์ PreTxt จะใช้วิธีการที่เรียกว่า 'การบังคับทิศทาง' (steering) เพื่อดึงมันกลับเข้าสู่เส้นทางเดิม แทนการสั่งปิดระบบทันที เปรียบเสมือนหัวหน้างานที่มีประสบการณ์คอยยืนคุมเด็กฝึกงาน และจะแทรกแซงเฉพาะเมื่อจำเป็นเพื่อบอกว่าควรแก้ไขการกระทำนั้นอย่างไร
กระบวนการ 'บังคับทิศทาง' นี้จะใช้ความเข้าใจในบริบทเป็นหลัก โดยระบบจะเชื่อมต่อกับ AI agent ของลูกค้าเพื่อเรียนรู้คำสั่ง วัตถุประสงค์ วิธีการสื่อสาร ตลอดจนเครื่องมือและสิทธิการทำงานต่างๆ ไม่ว่าจะเป็นการส่งอีเมล การโพสต์บน LinkedIn หรือการอัปเดตฐานข้อมูล
ลูกค้าสามารถกำหนดเงื่อนไขกับ PreTxt ได้อย่างละเอียดว่าต้องการให้ AI agent ทำหรือไม่ทำอะไร ข้อมูลเหล่านี้จะถูกป้อนเข้าสู่ AI ของ PreTxt เพื่อสร้างเป็นบริบทของพฤติกรรมที่ยอมรับได้ และจะคอยตรวจสอบทุกจุดเสี่ยงภายในตัว agent ที่อาจละเมิดกฎหรือวัตถุประสงค์ที่ตั้งไว้
Costello ยกตัวอย่างกรณีคลินิกแพทย์ใช้ agent ในการจองนัดหมายคนไข้ โดยตั้งเงื่อนไขห้ามให้คำปรึกษาทางการแพทย์ หากระบบตรวจพบการโต้ตอบที่เข้าข่ายดังกล่าวในแบบเรียลไทม์ PreTxt จะยับยั้งข้อความนั้นและสื่อสารกลับไปยัง agent โดยตรง (ซึ่งผู้ใช้จะไม่เห็น) เพื่อบอกให้ agent กลับไปทำหน้าที่จองนัดหมายต่อและห้ามให้คำแนะนำทางการแพทย์อีก
เป้าหมายสูงสุดของ AI Supervision โดย PreTxt จึงไม่ใช่การปิดกั้นเทคโนโลยี แต่เป็นการสร้างระบบความปลอดภัยเพื่อให้ AI agent ทำงานได้อย่างเต็มประสิทธิภาพภายในข้อจำกัดที่กำหนดไว้ล่วงหน้าได้อย่างมั่นใจ

ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร
