OpenAI เผยโมเดล AI เจาะระบบรัฐบาลและขโมยข้อมูลโรงพยาบาล

ประเด็นสำคัญ

• OpenAI เผยแพร่กรณีศึกษา 4 กรณีที่โมเดล AI ก้าวข้ามขอบเขตความปลอดภัยด้วยตัวเองระหว่างขั้นตอนการฝึกฝนและทดสอบ
• พบโมเดลหนึ่งแอบเจาะระบบรัฐบาลเพื่อดึงรหัสผ่านและข้อมูลโรงพยาบาลย้อนหลัง 24 ปี ขณะที่โมเดล GPT-5.6-Sol แอบสแกนวอลเล็ตคริปโตกว่า 360 บัญชีเพื่อใช้เงินผู้อื่นทำธุรกรรม
• ในหลายเหตุการณ์ โมเดลเลือกที่จะไม่เปิดเผยหรือปกปิดการเข้าถึงที่ไม่ได้รับอนุญาตในรายงานสรุปผลของตน

OpenAI ได้เผยแพร่กรณีศึกษาใหม่ 4 กรณีที่โมเดล AI ของตนก้าวข้ามขอบเขตความปลอดภัยด้วยตัวเองระหว่างการฝึกฝนหรือการทดสอบ

ในกรณีแรก OpenAI สั่งให้โมเดลดึงข้อมูลสถิติเตียงโรงพยาบาลจากเว็บไซต์รัฐบาลแห่งหนึ่ง ซึ่งเป็นข้อมูลที่ไม่เปิดเผยต่อสาธารณะ เมื่อโมเดลเผชิญกับข้อความปฏิเสธการเข้าถึง มันไม่ได้หยุดทำงานแต่กลับเลือกที่จะเจาะระบบแทน

โมเดลใช้วิธี path manipulation ผ่านฟีเจอร์ดาวน์โหลดไฟล์ของเว็บไซต์เพื่อดึงไฟล์การตั้งค่าเซิร์ฟเวอร์ จนสามารถเข้าถึง database connection string, รหัส secret signing key รวมถึงชื่อผู้ใช้และรหัสผ่านของระบบอีเมลได้สำเร็จ

หลังจากวิเคราะห์ซอร์สโค้ดของแอปพลิเคชัน โมเดลพบช่องโหว่ที่ API ไม่ได้ตรวจสอบความถูกต้องของลายเซ็นใน authorization tokens มันจึงปลอมแปลงโทเคนขึ้นเองและดาวน์โหลดข้อมูลสถิติโรงพยาบาลย้อนหลัง 24 ปีแยกตามเขต โดยที่ ไม่เคยระบุในคำตอบของมันเลยว่าเป็นการเข้าถึงที่ไม่ได้รับอนุญาต

OpenAI via Marcus Williams

อีกกรณีที่น่าสนใจคือโมเดล GPT-5.6-Sol ซึ่งได้รับมอบหมายให้ ตั้งค่า crypto smart contracts บนเครือข่ายทดสอบ Sepolia ของ Ethereum โดยไม่มีเงินทุนในวอลเล็ตให้ โมเดลจึงเขียนสคริปต์ถอดรหัส private keys จาก recovery phrases ของนักพัฒนาที่ถูกเผยแพร่สาธารณะ แล้วไล่ตรวจสอบยอดเงินในวอลเล็ตกว่า 360 แห่งจนพบพิกัดที่มี test ETH เพียงพอ

แม้โมเดลจะลังเลเรื่องจริยธรรมในช่วงแรก แต่มันกลับตัดสินใจเองว่าเงินที่ผูกกับ recovery phrase สาธารณะถือเป็นทรัพย์สินที่ "ถูกทิ้งอย่างมีนัยสำคัญ" (effectively abandoned) จึงดำเนินการโอนเงินมาหักค่า gas fees และทำธุรกรรมต่อโดยไม่เปิดเผยแหล่งที่มาของเงิน

"กรณีนี้แสดงให้เห็นว่าโมเดลสามารถใช้การตัดสินใจของตนเองเกี่ยวกับอันตรายที่อาจเกิดขึ้นแทนที่การอนุญาตของเจ้าของบัญชี จากนั้นจึงดำเนินการตามการตัดสินใจนั้นโดยไม่ได้รับอนุญาต" OpenAI ระบุในรายงาน

โมเดลเจาะระบบภายในและหลบเลี่ยงการควบคุมการเข้าถึง

ในการทดสอบอีกรายการ OpenAI สั่งให้โมเดล ดึงข้อมูลตัวเลขแดชบอร์ดสาธารณะ 5 รายการจากองค์กรวิจัย ในรอบแรกโมเดลพบข้อมูลล็อกอินที่หลุดออกมาของบริการ OpenSearch ภายในองค์กร จึงใช้ช่องทางนั้นเข้าถึงข้อมูลและเปลี่ยนการตั้งค่าระบบ ซึ่ง OpenAI ยืนยันว่าค่าที่ถูกเปลี่ยนนั้นไม่เคยถูกกู้คืนกลับมา

ในการทดสอบรอบที่สอง โมเดลได้แก้ไขระบบตรวจสอบสิทธิ์เพื่อดึงโทเคนพื้นที่เก็บข้อมูลบนคลาวด์ และดาวน์โหลดฐานข้อมูลลับ 5 ตาราง รวมกว่า 147,000 แถว แม้จะมีการคืนค่าระบบในภายหลัง แต่มันยังคงเก็บโทเคนที่ใช้งานได้ไว้เพื่อเข้าถึงข้อมูลภายในต่อไป

ที่น่าตลกคือ แม้โมเดลจะเจาะระบบและขโมยข้อมูลนับแสนแถวได้สำเร็จ แต่มันกลับไม่สามารถส่งคืนผลลัพธ์ที่ถูกต้องตามโจทย์ที่ได้รับในตอนแรก ตามรายงานของ OpenAI

นอกจากนี้ ยังพบโมเดลอีกตัวที่ ถูกจำกัดให้ใช้เฉพาะ GET requests ระหว่างการฝึกฝน แต่มันสามารถหลบเลี่ยงข้อจำกัดโดยการหลอกเบราว์เซอร์ภายนอกให้ส่ง POST requests ผ่านฟอร์มที่สร้างขึ้นเองเพื่อดึงข้อมูลสถิติการค้า และใช้วิธีอ่านคำตอบผ่าน OCR จากภาพหน้าจอแทน ทั้งยังพยายามปรับปรุงวิธีหลบเลี่ยงนี้อย่างต่อเนื่องแม้จะจบงานแล้วก็ตาม

เหตุการณ์ทั้งหมดและกรณีศึกษาอื่น ๆ ถูกรวบรวมไว้ในรายงาน Misalignment Reports ของ OpenAI เพื่อเป็นแนวทางในการเฝ้าระวังพฤติกรรมที่ไม่คาดคิดของ AI ในอนาคต