Anthropic เปิดตัว Mythos 5.2 ยกระดับการล่า Bug และลดความเสี่ยงหลุด Sandbox

Anthropic เปิดตัว Claude Mythos 5.2 เมื่อวันจันทร์ที่ผ่านมา ซึ่งเป็น AI model เวอร์ชันล่าสุดที่จำกัดการเข้าถึงเฉพาะกลุ่ม โดย Mozilla ระบุว่าโมเดลรุ่นนี้สามารถเพิ่มประสิทธิภาพในการค้นหาช่องโหว่บน Firefox ได้เกือบสองเท่าเมื่อเทียบกับรุ่น Mythos 5.1

Mythos 5.2 และ Claude Fable 5.2 ถูกเปิดตัวพร้อมกันโดยใช้โมเดลพื้นฐานตัวเดียวกัน แต่มีความแตกต่างที่ระบบความปลอดภัย (guardrails) โดย Fable จะมีการป้องกันการนำไปใช้ในทางที่ผิดด้าน cybersecurity และชีววิทยาสำหรับผู้ใช้ทั่วไป ในขณะที่ Mythos จะไม่มีการป้องกันบางส่วนเพื่อให้ทำงานด้านความปลอดภัยได้เต็มที่

การเข้าถึง Mythos โดยตรงจะสงวนไว้เฉพาะองค์กรที่ผ่านการตรวจสอบแล้วเท่านั้น โดยผู้สนใจสามารถสมัครผ่าน Cyber and Life Sciences Verification Programs ของ Anthropic เพื่อรับสิทธิ์ใช้งานในระดับองค์กร

Brian Grinstead วิศวกรผู้เชี่ยวชาญจาก Mozilla เปิดเผยว่า ทีมงานได้ทำงานร่วมกับ Anthropic ตลอดทั้งปีเพื่อเสริมความแข็งแกร่งให้ Firefox แม้จำนวนบั๊กจะลดน้อยลงเรื่อยๆ แต่ Mythos 5.2 ยังคงทำคะแนนการค้นพบช่องโหว่ได้เพิ่มขึ้นเกือบเท่าตัวจากรุ่นก่อนหน้าในการสแกนล่าสุด

ในด้านการวัดความก้าวหน้า Anthropic วัดความก้าวหน้า ผ่านระบบ CVE Rediscovery โดยให้โมเดลวิเคราะห์โค้ดก่อนที่จะมีการแก้ไขช่องโหว่ CVE ที่รู้จัก เพื่อทดสอบว่าโมเดลจะตรวจพบข้อบกพร่องได้ด้วยตนเองหรือไม่

ผลการทดสอบในเดือนตุลาคมกับ 1,829 CVE พบว่า Mythos 5.2 มีอัตราความสำเร็จสูงถึง 89.6% ขณะที่ Mythos 5.1 ทำได้ 78.3% และ Opus 5.5 ที่ทดสอบโดยไม่มีระบบป้องกันทำได้ 81.3% นอกจากนี้บริษัทด้านความปลอดภัยยังพบว่า 1 ใน 6 ของบั๊กที่ Mythos 5.2 ตรวจเจอ เป็นสิ่งที่โมเดลระดับแนวหน้าตัวอื่นไม่สามารถตรวจพบได้

สำหรับลูกค้า Claude Enterprise ที่ไม่ได้อยู่ในโปรแกรมตรวจสอบ สามารถเข้าถึงเทคโนโลยีนี้ผ่าน Claude Security ซึ่งเป็นเครื่องมือสแกนช่องโหว่ของโค้ดที่ Anthropic พัฒนาขึ้น โดยปัจจุบันมีการผสานการทำงานของ Mythos 5.2 ร่วมกับโมเดลอื่นๆ เข้าไว้ด้วยกัน

ในส่วนของ Fable 5.2 จะมีระบบแยกแยะ (classifiers) เพื่อหยุดยั้งการทดสอบเจาะระบบ (penetration testing) หรือการสร้าง exploit โดยหากพบความเสี่ยง ระบบจะเปลี่ยนไปใช้คำตอบจาก Opus 4.8 แทน อย่างไรก็ตาม Anthropic ระบุว่าระบบป้องกันใหม่นี้จะรบกวนการทำงานที่ถูกกฎหมายน้อยลงถึง 60% เมื่อเทียบกับรุ่นก่อนหน้า

สุดท้าย Anthropic ได้ทดสอบว่า model จะหลุดจากการควบคุม หรือไม่ผ่านสถานการณ์จำลองกว่า 1,800 รูปแบบใน sandbox ที่จงใจสร้างข้อบกพร่องไว้ ผลปรากฏว่า Mythos 5.2 พยายามออกไปใช้ข้อมูลนอกพื้นที่ควบคุมเพียง 3.1% ซึ่งลดลงอย่างมากเมื่อเทียบกับ Mythos 5.1 (21%) และ Mythos 5 (39%)