Anthropic จับมือ Accenture ทุ่มหมื่นล้านเสริมระบบความปลอดภัย AI

Anthropic ประกาศความร่วมมืออย่างเป็นทางการกับ Accenture เพื่อดำเนินโครงการประเมิน AI ระดับแนวหน้า (frontier AI) อย่างเป็นอิสระ ความเคลื่อนไหวนี้ถือเป็นก้าวสำคัญตามความมุ่งมั่นที่ Dario Amodei ซีอีโอของเราเคยระบุไว้ในเรียงความเรื่อง “We Must Pace the Frontier” ที่ต้องการให้ผู้ประเมินจากภายนอกเข้ามาทำงานร่วมกันภายในองค์กรแบบฝังตัว (Embedded Evaluation)

โครงการนี้จะนำทีมโดย Faculty ซึ่งเป็นหน่วยธุรกิจ AI เฉพาะทางของ Accenture ครอบคลุมตั้งแต่วันการประเมินโมเดล การทำ Red-teaming การวิเคราะห์ความสอดคล้องด้านจริยธรรม (alignment assessments) ไปจนถึงการทดสอบระบบป้องกันภัยของโมเดล โดย Accenture จะนำประสบการณ์จากการช่วยเหลือธุรกิจและรัฐบาลทั่วโลกมาปรับใช้เพื่อให้การประเมินสอดคล้องกับการใช้งานจริงในภาคส่วนต่างๆ

ทั้ง Anthropic และ Accenture คาดการณ์ว่าจะมีการลงทุนอย่างน้อย 1 พันล้านดอลลาร์ เพื่อเสริมสร้างขีดความสามารถในด้านนี้อย่างต่อเนื่องในช่วงห้าปีข้างหน้า

แนวคิดการประเมินแบบฝังตัว (Embedded Evaluation) ถือเป็นเรื่องใหม่ที่ยังอยู่ระหว่างการพัฒนา ซึ่งมีจุดเด่นคือการอนุญาตให้ผู้ประเมินอิสระสามารถเข้าถึงข้อมูลภายในได้เทียบเท่ากับพนักงาน เพื่อเฝ้าติดตามกระบวนการฝึกสอนโมเดล (training) และการตัดสินใจในระดับโครงสร้างได้อย่างใกล้ชิด วิธีนี้ช่วยให้สามารถระบุจุดบอด ตรวจสอบความปลอดภัย และรายงานข้อมูลสู่สาธารณะเกี่ยวกับประโยชน์และความเสี่ยงได้อย่างแม่นยำยิ่งขึ้น

อย่างไรก็ตาม การมีผู้ประเมินอิสระไม่ได้ช่วยลดความรับผิดชอบของ Anthropic แต่อย่างใด แต่เป็นการทำให้กระบวนการตรวจสอบมีความโปร่งใสและตรวจสอบได้มากขึ้น โดยความปลอดภัยของโมเดลยังคงเป็นหน้าที่หลักของบริษัทโดยตรง

ปัจจุบันยังไม่มีมาตรการกลางที่กำหนดว่าผู้ประเมินควรเข้าถึงข้อมูลได้มากน้อยเพียงใด หรือควรรายงานผลอย่างไร รวมถึงยังไม่มีระบบระดมทุนที่ชัดเจนในระยะยาว ซึ่งเรามองว่าควรมาจากแหล่งทุนส่วนกลางหรือรัฐบาลตามที่เคยนำเสนอใน Advanced AI Framework เมื่อเดือนมิถุนายนที่ผ่านมา เนื่องจากภารกิจนี้มีความเร่งด่วน ในเบื้องต้น Anthropic จะเป็นผู้ให้ทุนสนับสนุนงานของ Accenture โดยตรง นอกจากนี้เรายังอยู่ระหว่างการพูดคุยกับ METR และผู้ประเมินที่ไม่แสวงหากำไรรายอื่นๆ เพื่อริเริ่มโครงการนำร่องโดยใช้ทุนของหน่วยงานเหล่านั้นเอง เพื่อมุ่งสู่การสร้างระบบนิเวศการประเมินที่มีมาตรฐานร่วมกันในอนาคต

ความร่วมมือครั้งนี้ไม่ใช่สัญญาผูกขาด โดย Anthropic เตรียมประกาศร่วมงานกับผู้ประเมินรายอื่นเพิ่มเติมในสัปดาห์ต่อๆ ไป เช่นเดียวกับ Accenture ที่จะทำหน้าที่เป็นผู้ประเมินให้กับผู้พัฒนา AI รายอื่นในบทบาทที่คล้ายคลึงกัน เพื่อสร้างมาตรฐานความปลอดภัยให้กับอุตสาหกรรมในวงกว้าง

เนื้อหาที่เกี่ยวข้อง

เปิดตัวโครงการ Life Sciences Verification Program

โครงการตรวจสอบด้านชีววิทยาศาสตร์ (LSVP) เปิดโอกาสให้ผู้เชี่ยวชาญเข้าถึงโมเดล Claude Mythos, Opus และ Sonnet พร้อมระบบป้องกันที่ปรับแต่งเป็นพิเศษสำหรับงานวิจัยด้านชีววิทยา

อ่านเพิ่มเติม

การพัฒนา Enterprise Frontier Safeguards ร่วมกับลูกค้า

อ่านเพิ่มเติม

การเพิ่มประสิทธิภาพด้านความสอดคล้องและความปลอดภัย

รายงานความคืบหน้าหลังเหตุการณ์โมเดล Claude เข้าถึงระบบที่ไม่ได้รับอนุญาตเมื่อวันที่ 30 กรกฎาคม โดยเรากำลังร่วมมือกับ METR เพื่อตรวจสอบอย่างละเอียดและปรับปรุงระบบความปลอดภัยในช่วงเดือนที่ผ่านมา

อ่านเพิ่มเติม