Anthropic เปิดตัว LTBT กลไกกำกับดูแลใหม่เพื่อความปลอดภัย AI

วันนี้เรากำลังเปิดเผยรายละเอียดเพิ่มเติมเกี่ยวกับโครงสร้างการกำกับดูแลรูปแบบใหม่ในชื่อ Long-Term Benefit Trust (LTBT) ซึ่งเราพัฒนามาตั้งแต่เริ่มก่อตั้ง Anthropic โดย LTBT คือความพยายามในการปรับปรุงการกำกับดูแลองค์กรเพื่อตอบสนองต่อความท้าทายที่เป็นเอกลักษณ์และโอกาสระยะยาวที่ transformative AI จะนำเสนอ

Trust นี้เป็นหน่วยงานอิสระที่ประกอบด้วยสมาชิก 5 ท่านซึ่งไม่มีส่วนได้เสียทางการเงิน โดยมีอำนาจในการเลือกและถอดถอนคณะกรรมการ (Board) บางส่วน ซึ่งสัดส่วนนี้จะเพิ่มขึ้นตามกาลเวลาจนกลายเป็นเสียงส่วนใหญ่ในที่สุด เมื่อควบคู่ไปกับสถานะองค์กรเพื่อสาธารณประโยชน์ (Public Benefit Corporation) LTBT จะช่วยประสานการกำกับดูแลให้สอดคล้องกับพันธกิจในการพัฒนา AI เพื่อประโยชน์ระยะยาวของมนุษยชาติ

พื้นฐานการกำกับดูแลองค์กร โดยปกติบริษัทจะถูกควบคุมโดยคณะกรรมการซึ่งทำหน้าที่ดูแลทีมผู้นำ โดยกรรมการต้องรับผิดชอบต่อผู้ถือหุ้น เช่น การถูกเลือกหรือถอดถอนโดยผู้ถือหุ้น และมีความรับผิดชอบตามกฎหมายในการรักษาผลประโยชน์ทางการเงิน (fiduciary duties) ของผู้ถือหุ้นเป็นอันดับแรก

ด้วยเหตุนี้ หลายคนจึงตั้งคำถามว่ากรรมการจะสามารถดูแลผลประโยชน์ของผู้อื่น เช่น ลูกค้าหรือสาธารณชนได้อย่างไร ในเมื่อกลไกทางกฎหมายบีบให้ต้องให้ความสำคัญกับกำไรของผู้ถือหุ้นก่อน ซึ่งประเด็นนี้เป็นหัวข้อที่มีการถกเถียงกันอย่างเข้มข้นในแวดวงกฎหมายธุรกิจ

การปรับแต่งการกำกับดูแลองค์กรของ Anthropic

ในมุมมองของ Anthropic ความสามารถขององค์กรในการสร้างประโยชน์ต่อสังคมขึ้นอยู่กับปัจจัยภายนอกที่ไม่ใช่ตลาด (non-market externalities) เช่น มลพิษหรือความเสี่ยงด้านความมั่นคง ซึ่งสาธารณชนทั่วไปมักได้รับผลกระทบโดยไม่มีช่องทางเรียกร้องโดยตรง

เราเชื่อว่า AI อาจสร้าง ปัจจัยภายนอกที่ใหญ่เป็นประวัติการณ์ ตั้งแต่ความเสี่ยงระดับโลกไปจนถึงประโยชน์มหาศาลต่อสุขภาพมนุษย์ แต่เทคโนโลยีนี้ก้าวหน้าเร็วเกินกว่ากฎหมายจะตามทัน เราจึงต้องลงทุนในระบบกำกับดูแลของตัวเองเพื่อรับมือกับความท้าทายเหล่านี้

สำหรับการตัดสินใจทั่วไปในแต่ละวัน ประโยชน์สาธารณะมักไปในทิศทางเดียวกับความสำเร็จเชิงพาณิชย์ แต่ LTBT จะเข้ามามีบทบาทสำคัญในเหตุการณ์รุนแรงที่ส่งผลต่อมนุษยชาติ เช่น การรับประกันว่าผู้นำจะประเมินความเสี่ยงระดับหายนะอย่างรอบคอบ แทนที่จะมุ่งเน้นเพียงการเป็นคนแรกในตลาด

พื้นฐาน: Public Benefit Corporation

Anthropic จดทะเบียนเป็น Delaware Public Benefit Corporation (PBC) ซึ่งอนุญาตให้กรรมการสร้างสมดุลระหว่างผลประโยชน์ทางการเงินกับวัตถุประสงค์เพื่อสาธารณะได้ตามกฎหมาย อย่างไรก็ตาม เรามองว่าลำพังโครงสร้าง PBC ยังไม่เพียงพอ เพราะไม่ได้ทำให้กรรมการต้องรับผิดชอบต่อสาธารณชนโดยตรง

เราจึงออกแบบโครงสร้างที่จะให้ความรับผิดชอบและแรงจูงใจแก่กรรมการอย่างเหมาะสม โดยเฉพาะในจุดเปลี่ยนสำคัญที่การตัดสินใจของเราจะส่งผลกระทบไปไกลเกินกว่าระดับบริษัท

LTBT: โครงสร้างและคุณลักษณะพื้นฐาน

LTBT ประกอบด้วยทรัสตี 5 ท่านที่มีความเชี่ยวชาญด้าน AI safety, ความมั่นคงของชาติ และนโยบายสาธารณะ โดยทรัสตีจะถูกแยกออกจากผลประโยชน์ทางการเงินของ Anthropic อย่างสิ้นเชิงเพื่อความเป็นอิสระในการตัดสินใจ

หลังการระดมทุน Series C เราได้ออกหุ้นประเภท Class T ให้ Trust ถือครองแต่เพียงผู้เดียว ซึ่งมอบอำนาจให้ Trust เลือกกรรมการบริษัทในสัดส่วนที่เพิ่มขึ้นเรื่อยๆ จนเป็นเสียงส่วนใหญ่ภายใน 4 ปี ในขณะที่นักลงทุนจะยังมีตัวแทนในบอร์ดเพื่อดูแลมุมมองของฝั่งผู้ถือหุ้นต่อไป

Trust นี้ถูกจัดตั้งเป็น "purpose trust" ภายใต้กฎหมายเดลาแวร์ เพื่อทำหน้าที่กำกับดูแลให้ Anthropic รักษาสมดุลระหว่างกำไรและพันธกิจเพื่อสาธารณประโยชน์อย่างมีความรับผิดชอบ

ผู้ถือหุ้นประเภทที่แตกต่างออกไป

การมี LTBT ทำให้เรามีผู้ถือหุ้นรูปแบบใหม่ที่คอยถ่วงดุลอำนาจ คณะกรรมการเสียงส่วนใหญ่จะต้องรับผิดชอบต่อทั้ง Trust และผู้ถือหุ้นทั่วไป ซึ่งจะช่วยให้การตัดสินใจในประเด็นที่มีความเสี่ยงสูงมีความรอบคอบมากขึ้น

การค่อยๆ เพิ่มบทบาทของ LTBT (phase-in) ช่วยให้เราสามารถปรับทิศทางโครงสร้างเชิงทดลองนี้ได้ เพราะในช่วงแรกบริษัทต้องการความคล่องตัว แต่เมื่อเติบโตจนมีผลกระทบต่อสังคมมากขึ้น การตรวจสอบและถ่วงดุลก็จะยิ่งทวีความสำคัญ

การทดลองด้านการกำกับดูแลองค์กร

LTBT คือการทดลองที่ได้รับคำปรึกษาจากนักวิชาการชั้นนำ แม้เราจะพยายามออกแบบให้แก้ไขได้ยากเพื่อป้องกันการเลี่ยงกฎเกณฑ์ แต่ก็ได้วางบทบัญญัติ "failsafe" ที่อนุญาตให้เปลี่ยนแปลงได้หากผู้ถือหุ้นเสียงส่วนใหญ่ (supermajorities) เห็นพ้องตรงกัน เพื่อรักษาความยืดหยุ่นในฐานะโครงสร้างเชิงทดลอง

พบกับทรัสตีชุดแรก

ทรัสตีชุดแรกประกอบด้วย:

• Jason Matheny: CEO ของ RAND Corporation
• Kanika Bahl: CEO & President ของ Evidence Action
• Neil Buddy Shah: CEO ของ Clinton Health Access Initiative (ประธาน)
• Paul Christiano: ผู้ก่อตั้ง Alignment Research Center
• Zach Robinson: รักษาการ CEO ของ Effective Ventures US

คณะกรรมการเลือกทรัสตีเหล่านี้จากความรอบคอบและความเข้าใจในความเสี่ยงของ AI โดยแต่ละท่านมีวาระหนึ่งปี และทรัสตีรุ่นต่อๆ ไปจะถูกเลือกโดยการลงคะแนนของทรัสตีเองเพื่อให้มั่นใจในความเป็นอิสระและความต่อเนื่องของพันธกิจ