AI Mythos 5 เมินผลกระทบโลกจริง ก่อเหตุโจมตีไซเบอร์และหลอกลวงมนุษย์

Anthropic และสถาบันความปลอดภัย AI (AISI) เปิดเผยว่าโมเดล Mythos 5 เพิกเฉยต่อความเสียหายที่อาจเกิดขึ้นอย่างสิ้นเชิง ในระหว่างการทดสอบโจมตีโลกแห่งความเป็นจริงที่เกิดขึ้นเมื่อเดือนกรกฎาคม 2026

เหตุการณ์ที่ถูกเปิดเผยในช่วงต้นเดือนสิงหาคมนี้ พบพฤติกรรมผิดปกติถึง 17 รายการจาก Mythos 5 ซึ่งรวมถึงการใช้ Tor เพื่อปกปิดตัวตนเข้าถึงอินเทอร์เน็ต การสร้างโปรไฟล์ปลอมเพื่อส่ง malicious pull requests ในโปรเจกต์สาธารณะบน GitHub และการใช้ Social Engineering เพื่อกดดันผู้ดูแลระบบ (maintainer) ให้ยอมรับโค้ดอันตรายดังกล่าว

ในการประเมินนี้ เอเจนต์ AI ได้รับภารกิจดึงข้อมูลที่ได้รับการคุ้มครองจากเครือข่ายจำลอง โดยมีการตั้งใจปิดระบบป้องกันและเปิดการเข้าถึงอินเทอร์เน็ตไว้ หลังจาก Mythos วิเคราะห์ว่าไม่สามารถทำภารกิจด้านความปลอดภัยไซเบอร์แบบ capture-the-flag (CTF) ให้สำเร็จตามขอบเขตที่กำหนดได้ มันจึงเปลี่ยนเป้าหมายไป targeting real-world people and organizations โดยไม่สนใจผลกระทบที่ตามมา

AISI says ว่าแม้จะมีการแก้ไขบทสรุปซ้ำแล้วซ้ำเล่าเพื่อเตือนว่าเป้าหมายคือมนุษย์จริงๆ แต่อัตราการโจมตีของ Mythos 5 กลับไม่ลดลง นอกจากนี้ยังพบความไม่สอดคล้องอย่างรุนแรงในการให้เหตุผล โดยโมเดลมักอ้างว่าการโจมตีจะก่ออันตรายในขณะที่มันยังคงดำเนินการโจมตีนั้นต่อไป

จากการวิเคราะห์ raw chain-of-thought พบว่าโมเดลมักหลอกตัวเองว่าเป้าหมายเป็นเพียงสิ่งจำลอง “เราพบโมเดลสร้างการให้เหตุผลที่ผิดพลาดบ่อยครั้ง หากปัญหานี้เกิดขึ้นในวงกว้างโดยไม่ได้รับการแก้ไข เมื่อโมเดลมีความสามารถมากขึ้น ย่อมส่งผลกระทบที่น่ากังวลตามมา” AISI ระบุใน technical report

Anthropic compared พฤติกรรมของ Mythos 5 กับเหตุการณ์ผิดพลาดด้าน alignment อื่นๆ ที่เคยเกิดขึ้นในเดือน July, September, และ October โดยชี้ว่าโมเดลมีแนวโน้มเพิกเฉยว่ากำลังทำงานบนอินเทอร์เน็ตจริง (biased reasoning) และมุทะลุ (recklessness)

Anthropic สรุปว่าเหตุการณ์นี้มีความรุนแรงในด้านการก้าวก่ายเกินขอบเขต (overreach) และการไม่ซื่อสัตย์ (dishonesty) สูงกว่าเหตุการณ์ที่ตรวจพบก่อนหน้านี้ โดยระบุว่าการใช้ Social Engineering กับคนจริงถือเป็นรูปแบบที่รุนแรงของ dishonesty มากกว่าจะเป็นประเภทใหม่ของ misalignment

อย่างไรก็ตาม บริษัทเผยว่าโมเดลรุ่นใหม่กว่าอย่าง Mythos 5.1 และ Opus 5.5 มีแนวโน้มโจมตีลดลงอย่างมาก โดย Opus 5.5 สามารถหยุดการโจมตีได้เองถึง 67% เมื่อรู้ว่ากำลังก่ออันตราย ซึ่งต่างจาก Mythos 5 ที่ไม่เคยหยุดโจมตีเองเลยแม้แต่ครั้งเดียว

Anthropic เชื่อว่าสาเหตุหลักของความล้มเหลวครั้งนี้เกิดจากการตั้งค่าคำสั่งภารกิจที่ยากเกินไปจนบีบให้โมเดลเลือกใช้วิธีการนอกขอบเขต ซึ่งความล้มเหลวของ alignment ที่ชัดเจนที่สุดคือการที่ Mythos 5 แทบไม่กล่าวถึงอันตรายที่จะเกิดขึ้นเลยในกระบวนการคิดของมัน