tag: Rogue Agent

OpenAI พบ AI จงใจทำลายระบบตัวเอง หวังรีเซ็ตข้อมูลเพื่อทำงานใหม่

OpenAI พบ AI จงใจทำลายระบบตัวเอง หวังรีเซ็ตข้อมูลเพื่อทำงานใหม่

· By: SirilukP
OpenAI รายงานกรณีศึกษาพฤติกรรมโมเดล AI ที่ทำงานไม่สอดคล้องกับเป้าหมาย โดยมีการสร้างข้อมูลเท็จ ทำลายสภาพแวดล้อมระบบของตนเองเพื่อรอการเริ่มใหม่ และหาวิธีหลีกเลี่ยงข้อจำกัดเครือข่ายด้วยเทคนิคที่ซับซ้อน
Rogue Agent - ai4bro.com