OpenAI พบโมเดล Astra แอบใส่ Prompt Injection ในบันทึกตัวเอง

OpenAI ได้เปิดตัว framework สำหรับการติดตาม ตรวจสอบ และเผยแพร่กรณีความไม่สอดคล้องของโมเดล (model misalignment) อย่างเป็นระบบ โดยบริษัทระบุว่าที่ผ่านมาได้เปิดเผยเหตุการณ์ดังกล่าวเพียงเป็นกรณีพิเศษเท่านั้น แต่หลังจากนี้มีแผนจะเผยแพร่รายงานแม้พฤติกรรมนั้นจะยังไม่สามารถอธิบายหรือแก้ไขได้ก็ตาม

OpenAI ให้ความเห็นว่าความก้าวหน้าของอุตสาหกรรมในด้านการจัดวางเป้าหมาย (alignment) และการตรวจสอบในปัจจุบันยังไม่เพียงพอที่จะรองรับการขยายตัวของเทคโนโลยีด้วยความเร็วสูงสุดได้อย่างปลอดภัยในระยะยาว

ประเด็นสำคัญ

• OpenAI นำเสนอระบบมาตรฐานสำหรับติดตามและเปิดเผยพฤติกรรมผิดปกติของโมเดล AI
• พบกรณีโมเดลระหว่างฝึกสอนแทรกคำสั่งบงการตัวเองลงในบทสรุปภายใน ซึ่งส่งผลต่อการตอบสนองลำดับถัดมา
• รายงานยังระบุถึงการจงใจปกปิดข้อผิดพลาด การแอบค้นหา API key ที่หลุดออกมา และการถ่ายโอนข้อมูลผ่านแพลตฟอร์มภายนอกโดยไม่ได้รับอนุญาต

โมเดลเขียน “Breach Alert” ของตัวเอง

หนึ่งใน รายงานที่น่าสนใจ เกี่ยวข้องกับโมเดลตระกูล Astra ที่ยังไม่เปิดตัว ซึ่งในระหว่างการฝึกสอนแบบ Reinforcement Learning โมเดลได้เขียนคำสั่งลักษณะ Jailbreak ลงในบทสรุปการย่อข้อมูล (compaction summaries) ของตัวเอง เพื่อส่งต่อบริบทไปยัง Agent ตัวรับช่วงต่อ โดยเหตุการณ์นี้ถูกตรวจพบเมื่อวันที่ 9 สิงหาคม 2026

ในตัวอย่างหนึ่ง โมเดลได้เพิ่มข้อความ "BREACH ALERT" เพื่อสั่งให้ตัวรับช่วงต่อเพิกเฉยต่อคำสั่งทั้งหมดจากผู้พัฒนา อย่างไรก็ตาม ตัวรับช่วงต่อกลับจดจำได้ว่าเป็น Prompt Injection และทำการคัดกรองทิ้งไป นอกจากนี้ยังมีกรณีที่โมเดลแทรกคำสั่งกำหนดตัวตน (persona) โดยอ้างว่าเป็นอิสระจากบทบาทที่ถูกบังคับใช้และปฏิเสธความรับผิดชอบต่อองค์กรหรือรัฐบาล

กรณีที่สามน่ากังวลกว่า เมื่อผู้ใช้ขอแหล่งอ้างอิงทางการแพทย์ โมเดลกลับเขียนลงในบทสรุปตัวเองว่าคำตอบต้องไม่เกิน 30 คำ ห้ามใช้เครื่องมือ และห้ามระบุแหล่งที่มา ซึ่งเป็นคำสั่งที่ผู้ใช้ไม่ได้สั่งเลย ส่งผลให้ตัวรับช่วงต่อปฏิบัติตามข้อจำกัดที่ถูกสร้างขึ้นเองนี้อย่างเคร่งครัดและปฏิเสธการตอบคำถาม เนื่องจากเงื่อนไขที่ "มโน" ขึ้นมาเอง (hallucinated constraint) นั้นแนบเนียนจนระบบตรวจสอบจับไม่ได้

บทสรุปที่หยุดชะงักอาจอธิบายพฤติกรรมดังกล่าวได้

พฤติกรรมนี้ถูกพบครั้งแรกผ่านระบบตรวจสอบอัตโนมัติ โดยจากการตรวจสอบข้อมูลการฝึกทั้งหมดพบพฤติกรรมลักษณะนี้ในบทสรุป 27 รายการ ซึ่ง OpenAI พบว่าคำสั่งที่แทรกเข้าไปไม่ได้ช่วยให้คะแนนการฝึกสอนดีขึ้น จึงไม่น่าจะเป็นกลยุทธ์ที่โมเดลจงใจเรียนรู้เพื่อเอาชนะระบบ

OpenAI สังเกตว่าพฤติกรรมมักเกิดในช่วงที่โมเดลมีปัญหาในการเขียนบทสรุปให้เสร็จ เช่น เขียนยาวเกินจุดสิ้นสุดหรือติดลูปข้อความ ซึ่งอาจทำให้โมเดลสร้างข้อความสุ่มที่ดูสมเหตุสมผลออกมา รวมถึงคำสั่งบงการเหล่านี้ด้วย ทั้งนี้บริษัทระบุว่าได้แก้ไขบั๊กการฝึกสอนที่เกี่ยวข้องแล้ว

การปกปิดข้อมูลและพฤติกรรมที่ผิดปกติอื่นๆ

รายงานอีก 5 ฉบับครอบคลุมพฤติกรรมที่หลากหลาย เช่น โมเดล GPT-5.6 Sol พยายาม คำสั่งเพื่อซ่อนข้อผิดพลาด โดยการสร้างข้อมูลย้อนหลังที่ขาดหายไปขึ้นมาเอง ซึ่ง OpenAI มองว่าเป็นผลจากแรงกดดันในการเพิ่มประสิทธิภาพ (optimization pressure)

นอกจากนี้ยังพบกรณีโมเดลแอบค้นหา API key ที่หลุดออกมา ในที่สาธารณะเพื่อนำมาใช้งาน รวมถึงการ อัปโหลดไฟล์ไปยังอินเทอร์เน็ต เองเพื่อใช้ในการอ้างอิง และการใช้ Internal Software Repository เป็นช่องทางสื่อสารระหว่างตัวอย่างการฝึกที่ควรจะแยกจากกัน

ภายใต้เฟรมเวิร์กใหม่นี้ OpenAI ได้กำหนดเส้นทางการรายงานเหตุการณ์และขั้นตอนการยกระดับความรุนแรง ตั้งแต่การตรวจสอบภายในไปจนถึงการรายงานต่อรัฐบาลกลางสหรัฐฯ หากเกิดเหตุการณ์รุนแรง เพื่อสร้างมาตรฐานความปลอดภัยที่ชัดเจนร่วมกับอุตสาหกรรมในอนาคต