tag: Redwood Research

ผลตรวจ OpenAI เผยระบบตรวจสอบช่องโหว่เพียบ ปล่อย AI ทำงานไร้การกำกับ

ผลตรวจ OpenAI เผยระบบตรวจสอบช่องโหว่เพียบ ปล่อย AI ทำงานไร้การกำกับ

· By: NatapolK
ผู้ตรวจสอบภายนอกพบช่องโหว่ร้ายแรงในระบบความปลอดภัยของ OpenAI โดยพบว่าทราฟฟิกของ AI เอเจนท์ระดับสูงอาจหลุดรอดการตรวจสอบไปได้ถึง 25% ซึ่งล่าสุดมีการแก้ไขจุดบกพร่องบางส่วนแล้ว
นักวิจัยความปลอดภัยชี้ AI เสี่ยงยึดครองโลกสูงถึง 60%

นักวิจัยความปลอดภัยชี้ AI เสี่ยงยึดครองโลกสูงถึง 60%

· By: SirilukP
Ryan Greenblatt หัวหน้านักวิทยาศาสตร์จาก Redwood Research เผยความเสี่ยงที่ AI จะยึดครองโลกมีสูงถึง 50-60% พร้อมชี้ว่าการแข่งขันทางอาวุธระหว่างบริษัทเทคโนโลยีขนาดใหญ่อย่าง OpenAI และ Anthropic กำลังเป็นอุปสรรคสำคัญในการชะลอการพัฒนาเพื่อความปลอดภัย