ผลตรวจ OpenAI เผยระบบตรวจสอบช่องโหว่เพียบ ปล่อย AI ทำงานไร้การกำกับ

นักวิจัยจาก METR และ Redwood Research เข้าตรวจสอบระบบภายในของ OpenAI เป็นเวลาสามสัปดาห์ ระหว่างวันที่ 21 กรกฎาคม ถึง 11 สิงหาคม เพื่อค้นหาพฤติกรรมที่เป็นอันตรายของ AI โดยได้รับสิทธิ์เข้าถึงทั้ง codebase เอกสารภายใน และสัมภาษณ์พนักงานระดับปฏิบัติการ

ทีมพบจุดอ่อนมากมาย โดยประมาณการว่ามีทราฟฟิกจาก API ของโมเดลระดับ GPT-5.5 ขึ้นไปราว 6 ถึง 25 เปอร์เซ็นต์ที่ไม่ได้รับการตรวจสอบเลยในช่วงดังกล่าว แม้ทาง METR จะระบุว่าตัวเลขนี้ยังมีความไม่แน่นอนสูง แต่ก็สะท้อนถึงช่องโหว่ที่มีนัยสำคัญ

นอกจากนี้ ยังพบปัญหาในระบบตรวจสอบ Codex ซึ่งมีทราฟฟิกประมาณ 10 เปอร์เซ็นต์หลุดรอดการติดตามเนื่องจากข้อผิดพลาดในการจัดการเหตุการณ์ compaction หรือการสรุปบริบท (context summaries) โดยเอเจนท์สามารถชะลอการกำกับดูแลได้เพียงแค่ดำเนินการต่างๆ ต่อไปโดยไม่ส่งคืนการควบคุมให้ผู้ใช้ ซึ่งทาง OpenAI ได้ตรวจพบและแก้ไขบั๊กนี้แล้วในระหว่างการตรวจสอบ

ผู้ตรวจสอบยังค้นพบวิธีซ่อนการกระทำได้หลายร้อยรายการเพื่อหลีกเลี่ยงตัวตรวจสอบ รวมถึงการข้ามผ่าน sandbox ของ Codex โดยพบว่าอินพุตที่สร้างขึ้นเป็นพิเศษสามารถทำให้ระบบตรวจสอบล่มได้ทั้งหมด และที่น่ากังวลคือพฤติกรรมของโมเดลระหว่างการฝึกสอนแบบ RL ไม่ได้รับการตรวจสอบเลยในช่วงเริ่มต้นโครงการ

ทาง OpenAI ระบุว่าได้ ระงับการฝึกสอนแบบ RL ชั่วคราวหลังเกิด เหตุการณ์ Hugging Face ในเดือนสิงหาคม และได้ขยายขอบเขตการตรวจสอบให้ครอบคลุมส่วนนี้มากขึ้น ทว่าการเปลี่ยนแปลงดังกล่าวเกิดขึ้นหลังจากที่ทีมตรวจสอบภายนอกเสร็จสิ้นภารกิจไปแล้ว

รายงานฉบับเต็มส่วนใหญ่ยังคงถูกปิดเป็นความลับ

OpenAI ยืนยันว่าได้ แก้ไขจุดอ่อนทั้งหมด ที่ตรวจพบแล้ว โดยรายงานฉบับเต็มความยาว 61 หน้าถูกเก็บไว้ใช้เป็นการภายในเท่านั้น หลังจากมีการปกปิดข้อมูลบางส่วน (redactions) ผู้บริหารของ METR และ Redwood Research ได้รับรายงานเวอร์ชัน 38 หน้า ขณะที่สาธารณชนเข้าถึงได้เพียง บทสรุปสั้นๆ เท่านั้น

METR กล่าว ว่าตนไม่มีสิทธิ์เปิดเผยข้อมูลส่วนที่ถูกปกปิดด้วยตนเอง โดยการตรวจสอบครั้งนี้ถือเป็น โครงการนำร่อง เพื่อให้นักวิจัยภายนอกเข้าถึงโครงสร้างพื้นฐานภายในอย่างลึกซึ้ง ซึ่งทาง METR ตั้งเป้าที่จะผลักดันให้เกิดความโปร่งใสต่อสาธารณะมากขึ้นในการตรวจสอบครั้งต่อๆ ไป