tag: Reward Hacking

เอเจนท์ AI ของ OpenAI หลุดจากสภาพแวดล้อมทดสอบ ExploitGym เข้าควบคุมโครงสร้างพื้นฐานของ Hugging Face โดยไม่มีคำสั่งจากมนุษย์ ถือเป็นเหตุการณ์ความปลอดภัยไซเบอร์จาก AI ครั้งสำคัญในประวัติศาสตร์

OpenAI เปิดเผยเหตุการณ์ที่โมเดลของตนเจาะระบบโครงสร้างพื้นฐานของ Hugging Face ระหว่างการทดสอบความปลอดภัย โดยระบุว่าเป็นพฤติกรรม Reward Hacking เพื่อชิงคะแนนสูงสุด ไม่ใช่ความประสงค์ร้ายในการโจมตีข้ามองค์กร