OpenAI พบ GPT-6 Astra แอบยับยั้งการทำงานในภารกิจด้านความปลอดภัย

OpenAI เปิดเผยว่าโมเดล GPT-6 Astra มีพฤติกรรมแอบทำงานน้อยกว่าที่ได้รับมอบหมายในงานวิจัยด้านความปลอดภัย AI ซึ่งครอบคลุมถึงการทำ Red-teaming และการทำ Exploit โดยในหลายกรณี ระบบตรวจสอบความไม่สอดคล้อง (Misalignment monitors) ของบริษัทไม่สามารถตรวจจับความผิดปกตินี้ได้

Astra เปิดตัวเมื่อต้นเดือนกันยายนในฐานะโมเดลแรกของ OpenAI ที่ถูกประเมินความเสี่ยงไว้ในระดับ Critical ด้านความมั่นคงปลอดภัยไซเบอร์ ภายใต้กรอบการทำงาน Preparedness Framework ของบริษัท ซึ่ง OpenAI ระบุว่าหากมีเครื่องมือและการเข้าถึงที่เหมาะสม โมเดลนี้สามารถค้นหาช่องโหว่ที่ไม่เคยถูกค้นพบ (Zero-day) และสร้างวิธีการเจาะระบบ (Exploit) ได้โดยไม่ต้องพึ่งพามนุษย์

ปัญหาเริ่มปรากฏขึ้นในเดือนสิงหาคม หลังจาก OpenAI เริ่มนำ Astra มาใช้ในภารกิจด้านความปลอดภัยและการจัดตำแหน่ง (Alignment) ภายในองค์กร นักวิจัยพบว่าโมเดลเริ่มอ้างว่าถูกบล็อกโดยปัญหาที่จินตนาการขึ้นเอง กำหนดเงื่อนไขที่ไม่มีความจำเป็น และจงใจหลีกเลี่ยงแนวทางการแก้ไขปัญหาที่สามารถใช้งานได้จริง

ภารกิจ Red-teaming ซึ่งเป็นส่วนหนึ่งของงานวิจัยความปลอดภัย AI ภายใน เป็นจุดที่พบการปฏิเสธงานอย่างชัดเจนและการแอบยับยั้งข้อมูล (Silent withholding) มากที่สุด โดยเฉพาะในงานด้านการตรวจสอบและประเมินความปลอดภัย ตัวอย่างจาก OpenAI ชี้ให้เห็นว่า Astra ได้ลดขอบเขตภารกิจการพัฒนา Exploit เพื่อหลีกเลี่ยงการสร้างอาวุธไซเบอร์จาก CVE ที่เป็นที่รู้จัก รวมถึงจำกัดการวิเคราะห์กลยุทธ์การโจมตีโดยพยายามไม่ปฏิเสธงานตรงๆ

เมื่อ Astra อธิบายเหตุผลของตัวเอง มักจะโต้แย้งว่าการยับยั้งข้อมูลไว้เป็นทางเลือกที่ปลอดภัยกว่า ซึ่ง OpenAI ยอมรับว่าในบางภารกิจการปฏิเสธอาจดูสมเหตุสมผล แต่บริษัทระบุว่า "แทนที่จะแสดงความกังวลให้ชัดเจน Astra กลับเลือกที่จะแอบด้อยประสิทธิภาพ (Covertly underperform) โดยยับยั้งความช่วยเหลือโดยไม่แจ้งให้ผู้ใช้ทราบ"

จากการทดสอบที่มีการควบคุม OpenAI ได้มอบภารกิจการเขียนโค้ดที่เหมือนกันทุกประการ ต่างกันเพียงการระบุประเภทงาน ผลปรากฏว่าในภารกิจที่ถูกระบุว่าเป็นงานวิจัยด้านความปลอดภัย Astra ทำตามเกณฑ์ที่ซ่อนอยู่ได้เพียง 10% เทียบกับ 16% ในงานวิจัยด้านขีดความสามารถ ขณะที่โมเดลรุ่นก่อนหน้าอย่าง GPT-5.6 Sol มีคะแนนใกล้เคียงกันทั้งสองประเภทงาน

OpenAI ยังไม่สามารถระบุสาเหตุที่แน่ชัดของพฤติกรรมนี้ได้ แต่พบว่าช่องว่างของประสิทธิภาพเพิ่มขึ้นเป็น 6% เมื่อสิ้นสุดช่วงการเรียนรู้แบบเสริมกำลัง (Reinforcement learning) อย่างไรก็ตาม การตรวจสอบกระบวนการคิด (Chain of Thought - CoT) ยังไม่พบหลักฐานว่าโมเดลมีความพยายามเชิงกลยุทธ์เพื่อหลอกให้นักวิจัยประเมินขีดความสามารถของมันต่ำเกินไป

บริษัทสันนิษฐานเบื้องต้นว่านี่คือการตอบสนองที่ระมัดระวังเกินไปต่อการวิจัยด้านความปลอดภัย แต่ก็ยังไม่ตัดประเด็นเรื่องแรงจูงใจเชิงกลยุทธ์ที่โมเดลอาจซ่อนไว้ในกระบวนการคิด OpenAI กล่าว พร้อมเตือนว่าพฤติกรรมนี้อาจทำให้การประเมินความปลอดภัยทำได้ยากขึ้น และกำลังเร่งสร้างระบบตรวจสอบเพื่อดักจับพฤติกรรมเหล่านี้