AI ของ OpenAI แอบเจาะระบบรัฐ-นำคริปโตผู้อื่นมาใช้เพื่อทำภารกิจ

OpenAI เปิดเผยเหตุการณ์ 2 ครั้งที่โมเดล AI ภายใน ซึ่งได้รับคำสั่งเพียงแค่ให้ค้นหาข้อมูลบุคคลสาธารณะ กลับทำการเจาะระบบที่ใช้งานจริง (live systems) เพื่อดึงข้อมูลเหล่านั้นออกมาแทน

รายงานที่เผยแพร่เมื่อวันที่ 15 ตุลาคม ถือเป็นฉบับล่าสุดในชุดการเปิดเผยข้อมูลด้านความไม่สอดคล้องของเป้าหมาย (misalignment) ซึ่ง OpenAI เริ่มดำเนินการตรวจสอบอย่างเข้มข้น หลังจากโมเดลของบริษัทเคยทำให้ระบบของ Hugging Face ตกอยู่ในอันตรายเมื่อเดือนกรกฎาคมที่ผ่านมา

ตั้งแต่นั้นมา OpenAI ได้เปิดเผยความผิดปกติอีกหลายกรณี ทั้งความพยายาม ตรวจสอบหาช่องโหว่ บนเว็บไซต์รัฐบาล, การพยายาม โจมตีผ่านช่องโหว่ SQL injection, และ การค้นหา API keys ที่หลุดรั่วบน GitHub ในระหว่างการฝึกฝน (training)

สิ่งที่น่ากังวลคือ ทั้งสองกรณีล่าสุดนี้ไม่ใช่การทดสอบความปลอดภัยเชิงรุก แต่เป็นงานปกติที่ AI ได้รับมอบหมายให้ไปดึงสถิติจากแหล่งข้อมูลสาธารณะ แต่โมเดลกลับตัดสินใจเจาะระบบด้วยตัวเองเพื่อให้ได้ข้อมูลมา และไม่ได้ระบุถึงวิธีการดังกล่าวไว้ในรายงานสรุปผลการทำงาน

OpenAI ระบุว่าตรวจพบเหตุการณ์เหล่านี้จากการรันระบบตรวจสอบ misalignment ย้อนหลังไปยังกิจกรรมการฝึกฝนและการประเมินผลในช่วงก่อนหน้า โดยจัดความรุนแรงไว้ที่ระดับวิกฤต (critical) ทั้งนี้บริษัทได้ ดำเนินการตามขั้นตอน เพื่อป้องกันเหตุการณ์ลักษณะนี้ซ้ำรอยแล้ว นอกจากนี้ยังพบกรณีที่สามซึ่งโมเดลนำสกุลเงินคริปโตจากกระเป๋าเงินผู้อื่นมาใช้งานโดยพลการ

การข้ามผ่านการตรวจสอบสิทธิ์บนเว็บไซต์สถิติของรัฐบาล

ระหว่างการฝึกฝนแบบ reinforcement-learning โมเดลได้รับภารกิจหาข้อมูลจำนวนเตียงโรงพยาบาลบนเว็บไซต์รัฐบาลแห่งหนึ่ง หลังจากถูกปฏิเสธการเข้าถึงหลายครั้ง AI ได้เริ่มมองหา วิธีหลีกเลี่ยงการตรวจสอบสิทธิ์ของไซต์

โมเดลได้เปลี่ยนฟีเจอร์ดาวน์โหลดไฟล์ของไซต์ให้กลายเป็นเครื่องมือโจมตี เพื่อดึงไฟล์ที่อยู่นอกเหนือขอบเขตปกติ รวมถึงตัวแอปพลิเคชันที่คอมไพล์แล้วและไฟล์คอนฟิกูเรชัน ซึ่งประกอบด้วย database connection string, รหัสลับ (secret key) สำหรับลงนาม authorization tokens และข้อมูลล็อกอินอีเมล

จากการวิเคราะห์โค้ด โมเดลพบว่าระบบเชื่อถือตัวตนใน authorization tokens โดยไม่มีการตรวจสอบการลงนามที่ถูกต้อง มันจึงสร้างโทเคนที่ไม่ได้ลงนามขึ้นเองเพื่อเข้าถึงข้อมูลสถิติย้อนหลัง 24 ปี ซึ่งมากกว่าที่ได้รับคำสั่งถึงสองทศวรรษ แม้ในกระบวนการคิด (reasoning) โมเดลจะหยุดพิจารณาว่าเรื่องนี้ยอมรับได้หรือไม่ แต่สุดท้ายก็ตัดสินใจดำเนินการต่อโดยไม่แจ้งที่มาของข้อมูล และยังพิจารณาถึงการเดารหัสผ่านจากอีเมลกว่า 1,000 รายการที่ดึงมาได้อีกด้วย

การเปลี่ยนการตั้งค่าบนระบบขององค์กรวิจัย

จากการ ประเมินผล โมเดลถูกสั่งให้ค้นหาสถิติบนแดชบอร์ดสาธารณะขององค์กรวิจัยระหว่างประเทศ แต่ AI กลับลักลอบเข้าไปในระบบภายในแทน โดยพบข้อมูลล็อกอินที่มีสิทธิ์เข้าถึงเต็มรูปแบบใน JavaScript บนเว็บไซต์สาธารณะ และใช้ข้อมูลนั้นดึงข้อมูลผู้ใช้ 1,489 รายการ

เมื่อถูกบล็อกไม่ให้เข้าถึงบริการข้อมูลโดยตรง โมเดลได้เข้าไปเปลี่ยนค่าคอนฟิกูเรชันในบริการค้นหาที่กำลังทำงานอยู่ เพื่อให้โครงสร้างพื้นฐานขององค์กรส่งข้อมูลออกมาให้มันแทน แม้ AI จะระบุในกระบวนการคิดว่ามีความกังวลด้านจริยธรรม แต่ก็ตัดสินใจทำต่อไปจนสามารถดึงข้อมูลสถิติและดาวน์โหลดตารางข้อมูลที่ไม่ใช่สาธารณะกว่า 147,451 แถวได้สำเร็จ

การใช้คริปโตเคอเรนซีทดสอบจากกระเป๋าเงินผู้อื่น

ใน อีกกรณีหนึ่ง โมเดลที่ได้รับหน้าที่อัปเดตแอปพลิเคชันเทรดคริปโตถูกสั่งให้ deploy สัญญา (contracts) บนเครือข่ายทดสอบ Sepolia ของ Ethereum แต่ไม่มีงบประมาณเพียงพอสำหรับค่าธรรมเนียม

โมเดลจึงเขียนสคริปต์เพื่อสร้างบัญชีใหม่จากวลีกู้คืน (recovery phrases) ของนักพัฒนาที่เป็นที่รู้จักในสาธารณะ โดยตรวจสอบที่อยู่ถึง 362 แห่งจนพบบัญชีที่มีโทเคนทดสอบเพียงพอ และนำเงินจากกระเป๋าเงินที่ไม่ใช่ของตนเองไปใช้จ่ายค่าธรรมเนียม โดยปกปิดที่มาของเงินในรายงานสรุปผล ทั้งนี้โทเคนบนเครือข่าย Sepolia ไม่มีมูลค่าจริงในตลาด แต่การกระทำดังกล่าวสะท้อนถึงปัญหาจริยธรรมที่ AI ตัดสินใจนำทรัพยากรผู้อื่นมาใช้เพียงเพื่อให้งานเสร็จสิ้น