Anthropic ให้สิทธิ์ METR เข้าถึงข้อมูลวงใน ตรวจสอบความปลอดภัย AI

Anthropic ประกาศมอบสิทธิ์ให้ทีมงานจากองค์กรไม่แสวงหาผลกำไรอย่าง METR เข้าถึงข้อมูลภายใน เพื่อตรวจสอบโมเดล AI และมาตรการด้านความปลอดภัยของบริษัทอย่างละเอียด โดยพนักงานของ METR จำนวน 6 คนจะได้รับทั้งฮาร์ดแวร์ พื้นที่สำนักงาน และสิทธิ์เข้าถึงเครื่องมือภายใน ซึ่ง Anthropic ระบุว่าการให้สิทธิ์ดังกล่าวทำให้ทีมตรวจสอบมีสถานะเทียบเท่ากับทีมดูแลด้านความเสี่ยงภายในของบริษัทเอง

อย่างไรก็ตาม ข้อมูลลูกค้า ข้อมูลภายใต้เอกสิทธิ์ระหว่างทนายความและลูกความ (attorney-client privilege) และรายละเอียดเชิงลึกเกี่ยวกับสถาปัตยกรรมของโมเดลจะยังคงถูกจำกัดการเข้าถึง โดย METR จะเผยแพร่ผลการตรวจสอบอย่างเป็นอิสระ

ทั้งนี้ Anthropic อาจขอให้มีการเซ็นเซอร์ข้อมูลบางหมวดหมู่ที่กำหนดไว้ล่วงหน้า แต่ METR มีสิทธิ์อย่างเต็มที่ในการแจ้งต่อสาธารณะหากเห็นว่าการเซ็นเซอร์เหล่านั้นไม่สมเหตุสมผล

Anthropic ให้เหตุผลว่าข้อมูลด้านความปลอดภัยบางอย่างไม่สามารถเปิดเผยสู่สาธารณะได้โดยตรง เพราะอาจเป็นการชี้ช่องให้ผู้โจมตีหรือเป็นข้อมูลที่มีความละเอียดอ่อนทางธุรกิจ ซึ่งข้อตกลงกับ METR ในครั้งนี้ถือว่าให้สิทธิ์เข้าถึงลึกกว่าผู้ตรวจสอบภายนอกรายอื่นที่เคยทำมาอย่าง SecureBio, Accenture และ Faculty ที่ได้รับสิทธิ์น้อยกว่าและมีข้อจำกัดในการเผยแพร่ข้อมูลที่เข้มงวดกว่า

การเคลื่อนไหวครั้งสำคัญนี้เกิดขึ้นหลังจาก Anthropic ลงนามใน White House Accord on Super Intelligence ซึ่งมีพันธสัญญาในการทำงานร่วมกับผู้ตรวจสอบภายนอก นอกจากนี้บริษัทยังได้เริ่มการเจรจาเบื้องต้นกับ Hugging Face ในลักษณะที่ใกล้เคียงกันเพื่อยกระดับความโปร่งใสของอุตสาหกรรม AI ต่อไป