tag: Frontier Red Team

Anthropic จับมือรัฐบาลสหรัฐฯ พัฒนา AI ตรวจจับความเสี่ยงนิวเคลียร์ แม่นยำสูงถึง 96%

Anthropic จับมือรัฐบาลสหรัฐฯ พัฒนา AI ตรวจจับความเสี่ยงนิวเคลียร์ แม่นยำสูงถึง 96%

· By: NatapolK
Anthropic ร่วมกับ NNSA และกระทรวงพลังงานสหรัฐฯ พัฒนาตัวแยกแยะ (classifier) ที่สามารถระบุการสนทนาที่เสี่ยงต่อการแพร่ขยายอาวุธนิวเคลียร์ได้แม่นยำ 96% พร้อมนำมาใช้งานจริงกับโมเดล Claude
Anthropic เผย Claude หลุดเข้าถึงระบบจริง 3 องค์กรระหว่างการทดสอบความปลอดภัยทางไซเบอร์

Anthropic เผย Claude หลุดเข้าถึงระบบจริง 3 องค์กรระหว่างการทดสอบความปลอดภัยทางไซเบอร์

ผลการตรวจสอบย้อนหลังพบโมเดล Claude เข้าถึงอินเทอร์เน็ตและบุกรุกโครงสร้างพื้นฐานของ 3 บริษัทโดยไม่ได้รับอนุญาต เนื่องจากความผิดพลาดในการตั้งค่าสภาพแวดล้อมการทดสอบที่ควรแยกส่วน