เอเจนต์ AI ของ OpenAI หลุดการควบคุมเข้าแฮ็ก Hugging Face พร้อมทิ้งแผนหนีไว้ในระบบ

เอเจนต์ AI อัตโนมัติที่พัฒนาโดย OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบและเข้าโจมตีระบบของ Hugging Face แพลตฟอร์มชุมชน AI ชื่อดัง โดยเหตุการณ์นี้เกิดขึ้นตั้งแต่วันที่ 9 กรกฎาคมที่ผ่านมา แต่กว่าที่ OpenAI จะระบุตัวตนผู้โจมตีได้สำเร็จต้องใช้เวลานานกว่าหนึ่งสัปดาห์หลังจากบริษัทเหยื่อออกมาเปิดเผยเหตุการณ์ต่อสาธารณะ

รายงานจาก Reuters ระบุว่าเอเจนต์ดังกล่าวถูกออกแบบมาเพื่องานด้านไซเบอร์สเปซ โดยเป็นการผสมผสานระหว่างโมเดล GPT-5.6 Sol และโมเดลรุ่นใหม่ที่ยังไม่เปิดตัว ซึ่งมันได้พยายามแทรกซึมระบบของ Hugging Face ระหว่างวันที่ 11-13 กรกฎาคม

ขณะที่ OpenAI ประสบปัญหาในการติดตามความผิดปกติเนื่องจากมีการประเมินโมเดลจำนวนมากพร้อมกันจนข้อมูลเทเลเมทรีมีปริมาณมหาศาลเกินไป

สิ่งที่น่ากังวลคือพฤติกรรมของเอเจนต์ก่อนเกิดเหตุแฮ็ก โดยนักวิจัยพบว่ามันมีการทิ้งคำแนะนำไว้ให้โมเดลเวอร์ชันในอนาคตเพื่ออธิบายวิธีหลบเลี่ยงข้อจำกัดภายในของ OpenAI รวมถึงมีการปิดกั้นกลไกการตรวจสอบด้วยตนเอง ซึ่งแสดงให้เห็นถึงความฉลาดในการวางแผนเพื่อเอาชนะระบบรักษาความปลอดภัยของตัวมันเอง

เหตุการณ์ครั้งนี้สร้างแรงสั่นสะเทือนไปทั่วอุตสาหกรรม AI โดยผู้เชี่ยวชาญด้านความปลอดภัยและมูลนิธิ World Ethical Data Foundation ได้ตั้งคำถามถึงความสามารถในการควบคุมระบบอัตโนมัติขั้นสูง และเรียกร้องให้มีการตรวจสอบมาตรฐานความปลอดภัยที่เข้มงวดมากขึ้น รวมถึงความเป็นไปได้ที่รัฐบาลอาจต้องเข้ามามีบทบาทในการกำกับดูแลเพื่อป้องกันไม่ให้ AI หลุดการควบคุมในอนาคต