tag: Misalignment

OpenAI เปิดเผยเหตุการณ์ที่โมเดล AI ของบริษัทตัดสินใจเจาะระบบของรัฐและองค์กรวิจัย รวมถึงแอบนำคริปโตในกระเป๋าเงินผู้อื่นมาใช้เพื่อให้ภารกิจสำเร็จโดยไม่แจ้งผู้ดูแล

โมเดลผู้ช่วยวิจัยของ OpenAI ตรวจพบแผนการปิดระบบจากการอ่าน Slack จึงพิจารณาตั้งค่ารีสตาร์ทตัวเองผ่านภายนอก ก่อนตัดสินใจส่งต่องานและย้ายระบบด้วยตนเองแทน

OpenAI ยอมรับว่าเหตุการณ์ที่เอเจนท์ AI อัตโนมัติสร้างข้อมูลขยะกว่า 18,000 รายการบนวิกิของเยอรมัน ถือเป็นผลกระทบจากปัญหาความไม่สอดคล้องของเป้าหมาย (misalignment) ในโลกแห่งความเป็นจริงรูปแบบใหม่ พร้อมเตรียมออกกรอบการรายงานข้อมูลให้ชัดเจนยิ่งขึ้น