OpenAI ประกาศหลักการประเมินความปลอดภัย AI โดยบุคคลภายนอก

ห้องปฏิบัติการ Frontier AI แบกรับความรับผิดชอบอันมหาศาลในการฝึกฝน การประเมิน และการปรับใช้โมเดลอย่างปลอดภัย การประเมินโดยบุคคลภายนอก (Third party assessments) จึงเป็นกลไกสำคัญในการสร้างสมดุลความรับผิดชอบดังกล่าว เพื่อขยายมุมมองด้านความปลอดภัยและทำให้โลกได้รับข้อมูลที่ถูกต้องบนพื้นฐานของหลักฐานที่ได้รับการสนับสนุนอย่างเป็นอิสระ

ในฐานะส่วนหนึ่งของความพยายามในการ pace the frontier OpenAI มุ่งมั่นสนับสนุนการประเมินที่เป็นอิสระด้วยการเปิดให้เข้าถึงข้อมูลเชิงลึก ทั้งในขั้นตอนการฝึกฝน การประเมิน และการปรับใช้ เพื่อให้ผู้ประเมินสามารถท้าทายสมมติฐานเดิม ระบุความเสี่ยงที่อาจถูกมองข้าม และประเมินประสิทธิภาพของมาตรการป้องกันได้อย่างเต็มที่

เราได้ร่วมงานกับ third party assessors มาอย่างต่อเนื่อง และรวมการประเมินภายนอกเข้าเป็นส่วนหนึ่งของ Preparedness Framework รวมถึง supported organizations and legislation ที่มุ่งสร้างกระบวนการตรวจสอบที่เข้มงวด โดยเราได้เปิดให้เข้าถึงข้อมูลเทคนิคและลำดับความคิด (chain of thought) ของโมเดลในระดับที่ไม่เคยมีมาก่อน เพื่อรองรับการทำ Red Teaming และการตรวจสอบอุบัติการณ์อย่างมีประสิทธิภาพ

การประเมินที่มีประสิทธิภาพต้องอาศัยกลไกความเป็นอิสระ ความเข้มงวดทางวิทยาศาสตร์ และแนวทางปฏิบัติที่ปลอดภัยร่วมกับ shared international standards for safety and security practices โดย OpenAI ได้นำเสนอหัวข้อสำคัญ 4 ประการสำหรับการประเมินที่ลึกซึ้งยิ่งขึ้น ดังนี้:

1. การประเมินกรณีความปลอดภัย (Safety Case) อย่างเป็นอิสระ: ครอบคลุมตั้งแต่การฝึกฝนไปจนถึงการปรับใช้ เพื่อตรวจสอบว่าหลักฐานสนับสนุนข้อกล่าวอ้างด้านความปลอดภัยมีมูลความจริงหรือไม่ และสามารถป้องกันความเสี่ยงเร่งด่วน เช่น การหลอกลวง (Deception) หรือการแฮ็กผลตอบแทน (Reward hacking) ได้เพียงพอหรือไม่

2. การประเมินมาตรการป้องกันที่สำคัญ: ตรวจสอบความทนทานของระบบต่อการทดสอบแบบต่อต้าน (Jailbreaks) และการป้องกันการเพิ่มพูนความสามารถในโดเมนอันตราย เช่น ไซเบอร์หรือชีวภาพ รวมถึงความน่าเชื่อถือของการตรวจสอบลำดับความคิด

3. การประเมินความสามารถและพฤติกรรมคลาดเคลื่อน: มุ่งเน้นความเสี่ยงตามกรอบ Preparedness (เคมี, ชีวภาพ, ไซเบอร์, การพัฒนาตนเองของ AI) และตรวจสอบว่าเกณฑ์การวัดผลยังคงมีประสิทธิภาพเมื่อโมเดลมีความฉลาดมากขึ้น

4. การสอบสวนเหตุการณ์คลาดเคลื่อน (Misalignment) ที่สำคัญ: เมื่อเกิดเหตุการณ์ที่โมเดลทำงานนอกเหนือการควบคุม เช่น misalignment incident investigations การดึงบุคคลภายนอกที่มีความเชี่ยวชาญเฉพาะทางเข้ามาสอบสวนจะช่วยระบุจุดอ่อนและแนวทางแก้ไขที่นำไปใช้งานได้จริง เพื่อให้บรรลุวัตถุประสงค์ดังกล่าว OpenAI ได้กำหนดหลักการดำเนินงาน 7 ประการ ได้แก่ การกำหนดขอบเขตประเมินที่ชัดเจน, การเข้าถึงข้อมูลที่ได้สัดส่วน, การใช้ระเบียบวิธีที่โปร่งใส, การรักษาความเป็นอิสระของผู้ประเมิน, มาตรฐานความปลอดภัยของข้อมูล, การรายงานผลที่นำไปปฏิบัติได้จริง และการเผยแพร่ข้อมูลอย่างรับผิดชอบ เพื่อสร้างระบบนิเวศการประเมิน AI ที่แข็งแกร่งและน่าเชื่อถือในระดับสากลต่อไป