Anthropic เปิดทางผู้ประเมินอิสระเข้าถึงข้อมูลระดับพนักงาน

เมื่อเดือนที่แล้ว เราได้ให้คำมั่นที่จะจัดให้มีการ ประเมินโดยบุคคลที่สามที่เป็นอิสระและเข้มงวดมากขึ้น สำหรับ model และแนวปฏิบัติด้านความปลอดภัยของเรา นอกจากนี้ เรายังได้ลงนามใน White House Accord on Super Intelligence ซึ่งบริษัทต่างๆ ให้คำมั่นที่จะเป็นพันธมิตรกับผู้ตรวจสอบหรือผู้ประเมินภายนอกที่เป็นอิสระ

ล่าสุดเราขอประกาศว่าได้เริ่มให้สิทธิ์การเข้าถึงในระดับเทียบเท่าพนักงานแก่ทีมงานจาก METR ซึ่งเป็นองค์กรไม่แสวงหากำไรที่ทำหน้าที่ประเมิน frontier AI models โดย METR จะเผยแพร่ผลการประเมินความเสี่ยงสู่สาธารณะ ซึ่งในช่วงปีที่ผ่านมา เราได้ทำงานร่วมกับ METR ในการ รีวิวรายงานความเสี่ยง (Risk Reports) ของเราหลายครั้ง

นอกจากนี้ เรายังทำงานร่วมกับ SecureBio และ Accenture ในฐานะผู้ประเมิน และกำลังอยู่ในการหารือระยะเริ่มต้นกับองค์กรอื่นๆ อีกหลายแห่ง รวมถึง Hugging Face เพื่อสร้างมาตรฐานการตรวจสอบที่เข้มข้นขึ้น

ทำไมเราจึงทำงานร่วมกับผู้ประเมินอิสระ

เมื่อ model มีประสิทธิภาพมากขึ้น มาตรการป้องกันและความเสี่ยงก็ยิ่งท้าทาย เราต้องการแสดงความรับผิดชอบต่อสาธารณะ แต่เนื่องจากข้อมูลบางส่วนมีความละเอียดอ่อนเชิงพาณิชย์หรืออาจเป็นประโยชน์ต่อผู้ไม่ประสงค์ดี เราจึงเลือกให้ผู้ประเมินอิสระเข้าถึงข้อมูลเชิงลึกแทน เพื่อให้พวกเขาแบ่งปันหลักฐานและข้อสรุปเกี่ยวกับความเสี่ยงได้โดยตรง ช่วยลดช่องว่างความเข้าใจระหว่างบริษัทผู้พัฒนาและคนภายนอก

ในการประเมิน frontier models ผู้ประเมินจำเป็นต้องมีคุณสมบัติสำคัญคือ ความเชี่ยวชาญในการวิเคราะห์ความสามารถของ model และความผิดพลาดที่อาจเกิดขึ้น เช่น alignment faking รวมถึงต้องมี ความเป็นอิสระ โดยไม่พึ่งพาบริษัททางการเงิน มี การเข้าถึง ข้อมูลที่เพียงพอ และมี เสรีภาพในการเผยแพร่ ข้อสังเกตอย่างตรงไปตรงมา

แนวทางนี้คล้ายกับการกำกับดูแลสถาบันการเงินที่หน่วยงานรัฐจะส่งผู้ตรวจสอบเข้าไปทำงานภายในธนาคารขนาดใหญ่ สำหรับอุตสาหกรรม AI นี่คือก้าวสำคัญสู่ การกำกับดูแลความปลอดภัยที่แข็งแกร่ง ซึ่งเรามุ่งมั่นที่จะแบ่งปันความคืบหน้าของความร่วมมือนี้ต่อไป

ความหมายของ “การเข้าถึงในระดับเทียบเท่าพนักงาน”

เราได้รับพนักงาน METR จำนวน 6 คนเข้ามาร่วมงาน โดยสนับสนุนทั้งฮาร์ดแวร์ พื้นที่สำนักงาน และการเข้าถึงระบบภายในเทียบเท่าทีมประเมินความเสี่ยงของเรา พนักงาน Anthropic สามารถแบ่งปันข้อมูลด้านความปลอดภัยกับพวกเขาได้เสมือนเป็นเพื่อนร่วมงาน ยกเว้นข้อมูลบางประเภท เช่น ข้อมูลลูกค้า หรือข้อมูลที่มีเอกสิทธิ์ทางกฎหมายคุ้มครอง

METR มีสิทธิ์เผยแพร่บทวิเคราะห์เกี่ยวกับระดับความเสี่ยงหรือแนวปฏิบัติของเราโดยที่ Anthropic ไม่สามารถยับยั้งได้ เว้นแต่จะเป็นการลบข้อมูลตามหมวดหมู่ที่ตกลงกันไว้ล่วงหน้า ซึ่ง METR ยังมีอิสระที่จะชี้แจงต่อสาธารณะได้ว่าการลบข้อมูลดังกล่าวนั้นสมเหตุสมผลหรือไม่

อย่างไรก็ตาม การประเมินแบบฝังตัว (Embedded evaluation) นี้จำกัดเฉพาะทีมงานขนาดเล็กภายใต้ข้อตกลงที่เข้มงวดเท่านั้น นี่ไม่ใช่ช่องทางให้องค์กรภายนอกอื่นๆ เข้าถึงข้อมูลของบริษัทหรือลูกค้าได้โดยตรง

พันธมิตรผู้ประเมินรายอื่นๆ ของเรา

เรากำลังพัฒนาระดับการเข้าถึง 3 ระดับสำหรับผู้ประเมินอิสระ เพื่อสร้างความไว้วางใจและมาตรฐานความปลอดภัยที่ยั่งยืน:

• ระดับที่หนึ่ง: ผู้ประเมินสืบสวนความเสี่ยงในขอบเขตจำกัด โดยเราเป็นผู้กำหนดการเข้าถึงข้อมูลและการเผยแพร่ต้องผ่านการอนุมัติ
• ระดับที่สอง: ผู้ประเมินเผยแพร่ข้อมูลได้โดยไม่ต้องรออนุมัติและเข้าถึงข้อมูลได้มากขึ้น แต่เรายังสามารถขอให้ถอนข้อมูลบางส่วนได้
• ระดับที่สาม: รูปแบบเดียวกับ METR ที่เข้าถึงข้อมูลระดับพนักงานและมีสิทธิ์เผยแพร่เทียบเท่าระดับสอง

ปัจจุบัน SecureBio อยู่ในระดับแรก โดยกำลังตรวจสอบบทว่าด้วยอาวุธเคมีและชีวภาพใน รายงานความเสี่ยงเดือนสิงหาคม ของเรา ส่วน Accenture และ Faculty เรากำลัง มุ่งสู่ความร่วมมือที่ทะเยอทะยาน ทั้งการทำ red-teaming และการประเมิน alignment เพื่อสร้างมาตรฐานความปลอดภัยร่วมกัน

เนื้อหาที่เกี่ยวข้อง

การเตรียมความพร้อมสำหรับการเลือกตั้งกลางเทอมของสหรัฐฯ ปี 2026

สรุปมาตรการป้องกันการเลือกตั้งที่เราพัฒนาอย่างต่อเนื่องเพื่อรองรับการเลือกตั้งกลางเทอมของสหรัฐฯ ในปีนี้

อ่านเพิ่มเติม

Anthropic เปิดสำนักงานในสิงคโปร์และลงนาม MOU กับรัฐบาลสิงคโปร์

การขยายฐานสู่เอเชียพร้อมร่วมมือกับรัฐบาลสิงคโปร์เพื่อผลักดันการใช้งาน AI ที่ปลอดภัย

อ่านเพิ่มเติม

อัปเดตนโยบายการใช้งาน (Usage Policy) ปี 2026

รายละเอียดการเปลี่ยนแปลงนโยบายการใช้งานฉบับใหม่เพื่อความชัดเจนในการให้บริการ

อ่านเพิ่มเติม