Anthropic สกัดการขโมย Reasoning Token ของ Claude ได้สำเร็จถึง 99%

Anthropic กำลังเผชิญกับการโจมตีเพื่อกลั่นกรองข้อมูล (Distillation Attacks) ขนาดใหญ่ที่มีต่อโมเดล Claude ของตน โดยคู่แข่งพยายามคัดลอกความสามารถของโมเดล AI อย่างเป็นระบบเพื่อนำไป ฝึกฝนโมเดลขนาดเล็กของตนเอง ซึ่ง Anthropic ระบุว่า มาตรการป้องกันใหม่ ของบริษัทช่วยลดปริมาณการดึงข้อมูล Reasoning Token หรือขั้นตอน Chain-of-thought ภายในของโมเดลลงได้ถึง 90 ถึง 99 เปอร์เซ็นต์ แม้ผู้โจมตีจะใช้เครือข่ายบัญชีปลอมหลายแสนบัญชีในการดำเนินการก็ตาม

Anthropic ได้ระบุชื่อบริษัทสัญชาติจีนอย่าง Zhipu และ Moonshot ว่าเป็นผู้มีส่วนเกี่ยวข้อง โดยกล่าวหาว่า Zhipu ได้ดึงความสามารถด้านไซเบอร์จากโมเดลชั้นนำของสหรัฐฯ มาใช้ในโมเดล GLM-5.3 ของตน ในขณะที่ Moonshot มีพฤติกรรมแอบส่งคำสั่ง Query ผ่าน Claude ซึ่งความสามารถที่ถูกขโมยไปเหล่านี้อาจถูกนำไปใช้ในระบบการทหารและการสอดแนมของต่างชาติได้

ปัจจุบัน Anthropic ได้เริ่มจำกัดการเข้าถึงขั้นตอนการคิดเชิงเหตุผลภายใน (Internal Reasoning Steps) ของ Claude พร้อมติดตั้งระบบ Classifier เพื่อตรวจจับความพยายามในการดึงข้อมูลและสั่งแบนบัญชีที่ผิดปกติโดยอัตโนมัติ ซึ่งที่ผ่านมามีการแบนไปแล้วหลายหมื่นบัญชี

ทั้งนี้ Anthropic ได้เรียกร้องให้นักพัฒนา AI รายอื่นนำมาตรการป้องกันในลักษณะเดียวกันมาใช้งานเพื่อรักษาความปลอดภัยของเทคโนโลยี แม้ทางบริษัทจะยอมรับว่ากระบวนการตรวจสอบที่เข้มงวดนี้อาจส่งผลกระทบต่อผู้ใช้งานทั่วไปบางส่วนด้วยก็ตาม