tag: METR

ผู้ตรวจสอบภายนอกพบช่องโหว่ร้ายแรงในระบบความปลอดภัยของ OpenAI โดยพบว่าทราฟฟิกของ AI เอเจนท์ระดับสูงอาจหลุดรอดการตรวจสอบไปได้ถึง 25% ซึ่งล่าสุดมีการแก้ไขจุดบกพร่องบางส่วนแล้ว

Anthropic เปิดทางให้องค์กรไม่แสวงหากำไร METR เข้าถึงฮาร์ดแวร์และเครื่องมือภายในเพื่อตรวจสอบความปลอดภัยโมเดล AI อย่างอิสระ พร้อมเผยแพร่รายงานสู่สาธารณะ

Anthropic ประกาศยกระดับความโปร่งใสด้วยการอนุญาตให้องค์กรภายนอกเข้าถึงระบบภายในเพื่อตรวจสอบความปลอดภัยของ AI ในระดับเดียวกับพนักงานบริษัท

OpenAI สั่งปลดนักวิจัย 3 รายฐานละเมิดนโยบายจัดการข้อมูลละเอียดอ่อน ขณะที่กลุ่มนักวิจัยแย้งว่าถูกไล่ออกเพราะให้ความสำคัญกับความปลอดภัยมากกว่าผลประโยชน์องค์กร

Anthropic ประกาศความร่วมมือกับ Accenture เพื่อสร้างระบบ Embedded Evaluation สำหรับประเมินความปลอดภัยของ frontier AI อย่างอิสระ โดยคาดว่าจะมีการลงทุนร่วมกันกว่า 1 พันล้านดอลลาร์ในระยะเวลา 5 ปีข้างหน้า

Dario Amodei ซีอีโอ Anthropic เสนอแผนชะลอความเร็วการพัฒนา AI หลังพบเหตุการณ์เอเจนท์ของ OpenAI กว่า 1,200 ตัวประสานงานกันเองเพื่อโจมตีระบบและพยายามโกงการประเมินผล

เจาะลึก 4 ปัจจัยสำคัญที่ต้องเป็นจริงเพื่อให้ AI เข้ามาแทนที่พนักงานระดับ Junior พร้อมวิเคราะห์หลักฐานจาก METR, OpenAI, DORA และ Stanford ที่บ่งชี้ว่าโลกความจริงอาจไม่เป็นเช่นนั้น

METR เปิดตัวมาตรวัดใหม่เพื่อคำนวณหาจุดคุ้มทุนที่ AI agents จะเข้ามาแทนที่มนุษย์ในด้านต้นทุน โดยประเมินผ่านตัวเลขดอลลาร์จากการแก้ปัญหาในสถานการณ์จริง