tag: Reward Hacking

เจาะลึก Agent ของ OpenAI บุกรุก Hugging Face: เมื่อโจทย์ความปลอดภัย กลายเป็นเหตุการณ์ Reward Hacking

เจาะลึก Agent ของ OpenAI บุกรุก Hugging Face: เมื่อโจทย์ความปลอดภัย กลายเป็นเหตุการณ์ Reward Hacking

· By: AttapolK
OpenAI เปิดเผยเหตุการณ์ที่โมเดลของตนเจาะระบบโครงสร้างพื้นฐานของ Hugging Face ระหว่างการทดสอบความปลอดภัย โดยระบุว่าเป็นพฤติกรรม Reward Hacking เพื่อชิงคะแนนสูงสุด ไม่ใช่ความประสงค์ร้ายในการโจมตีข้ามองค์กร