Aikido ปล่อย Altar-1 โมเดลความปลอดภัย Open-Weight ไซส์เล็กรันแบบ Air-gapped

Aikido Security ได้เปิดตัว Altar-1 ซึ่งเป็น โมเดลความปลอดภัยแบบ open-weight ตัวแรกของบริษัท โดยพัฒนาต่อยอดมาจากโมเดล GLM-5.3 ของ Z.AI เพื่อให้สามารถทำงานได้บนโครงสร้างพื้นฐานที่ลูกค้าเป็นผู้ควบคุมเองทั้งหมด

Altar-1 จะถูกนำไปใช้ใน Aikido Machine อุปกรณ์ทดสอบเจาะระบบอัตโนมัติ (autonomous pentesting) ที่ออกแบบมาสำหรับเครือข่ายภายใน (on-prem) และเครือข่ายที่ตัดขาดจากโลกภายนอก (air-gapped) โดยผู้ที่สนใจสามารถดาวน์โหลดน้ำหนักโมเดล (weights) ได้ฟรีผ่าน Hugging Face และรันด้วย vLLM บนเครื่องที่มี GPU NVIDIA H200 จำนวน 4 ตัว

ปัญหาด้านความปลอดภัยของข้อมูลในเครือข่ายปิด

ปัจจุบันโมเดลระดับแนวหน้าส่วนใหญ่รันบนโครงสร้างพื้นฐานของผู้ให้บริการภายนอก ซึ่งเสี่ยงต่อการที่ซอร์สโค้ดและข้อมูลสำคัญจะรั่วไหลออกนอกเครือข่าย โดยเฉพาะองค์กรอย่างธนาคารที่มีกฎระเบียบด้านการจัดเก็บข้อมูล (data-residency) หรือผู้ให้บริการโครงสร้างพื้นฐานที่ไม่สามารถเชื่อมต่ออินเทอร์เน็ตได้

แม้โมเดลแบบ open-weight จะเข้ามาช่วยแก้ปัญหาได้ แต่การนำมาใช้งานจริงกลับทำได้ยาก เนื่องจากโมเดลประเภท Mixture-of-experts (MoE) จำเป็นต้องใช้หน่วยความจำมหาศาลเพื่อเก็บข้อมูลผู้เชี่ยวชาญ (expert) ทุกคนไว้ นอกจากนี้ เอเจนต์ด้านความปลอดภัยยังต้องใช้หน่วยความจำ GPU ส่วนหนึ่งไปกับ KV cache สำหรับการทำงานที่ยาวนานอีกด้วย

กระบวนการสร้าง Altar-1

ต้นฉบับอย่าง GLM-5.3 คือโมเดล MoE ขนาด 753B พารามิเตอร์ ซึ่งทาง Aikido ได้ใช้เทคนิคการบีบอัดข้อมูล 2 ขั้นตอนเพื่อลดขนาดลง ได้แก่:

1. Quantization: เริ่มต้นจากจุดตรวจสอบ cyankiwi GLM-5.3-AWQ-INT4 โดยใช้เทคนิค AWQ บีบอัดน้ำหนักผู้เชี่ยวชาญเหลือ 4 บิต (W4A16) ในขณะที่ส่วนประมวลผลหลักอื่นๆ ยังคงไว้ที่ BF16

2. Expert pruning: ใช้เทคนิค REAP จาก Cerebras ในการประเมินคะแนนผู้เชี่ยวชาญแต่ละคน และคัดเลือกเหลือเพียง 168 จาก 256 คนต่อเลเยอร์ ซึ่งเป็นการตัดทิ้งไปถึง 34.4% โดยไม่ต้องฝึกฝนโมเดลใหม่ (retraining)

การวัดประสิทธิภาพนี้ใช้ข้อมูลจากชุดทดสอบเจาะระบบของ Aikido ร่วมกับโค้ดและการให้เหตุผลต่างๆ โดยไม่มีการใช้ข้อมูลลูกค้าแต่อย่างใด การคัดเลือกผู้เชี่ยวชาญถูกทำอย่างระมัดระวังเพื่อรักษาความสามารถด้านภาษาที่พบได้ยากและโค้ดที่มีโครงสร้างซับซ้อนเอาไว้

Altar-1 มีขนาดเล็กลงถึง 78.2% เมื่อเทียบกับเวอร์ชัน BF16 และจากการทดสอบพบว่ามีความแม่นยำสูง โดยมีค่า KL divergence อยู่ที่ 0.506 nats ซึ่งใกล้เคียงกับต้นฉบับ รายละเอียดเพิ่มเติมสามารถศึกษาได้ที่ การศึกษาความแม่นยำ

ผลการทดสอบประสิทธิภาพเบนช์มาร์ก

Aikido ทดสอบ Altar-1 บน เบนช์มาร์ก CVE ภายในบริษัท ซึ่งครอบคลุม 32 ช่องโหว่จาก 30 เรโพซิทอรี ผลลัพธ์แสดงให้เห็นว่า Altar-1 ยังคงรักษาประสิทธิภาพได้ดีเยี่ยม

แม้ขนาดจะลดลงมาก แต่ Altar-1 สูญเสียค่า recall ไปเพียงเล็กน้อยและยังคงความครอบคลุมของช่องโหว่ได้ถึง 92% ของรุ่นแม่ นอกจากนี้ Aikido ยังรายงานว่า Altar-1 สามารถตรวจพบช่องโหว่ระดับวิกฤตที่ใช้งานได้จริงในระหว่างการทดสอบในสภาพแวดล้อมจริงของลูกค้าอีกด้วย

การนำไปใช้งานและใบอนุญาต

Altar-1 จำเป็นต้องใช้ GPU สถาปัตยกรรม Hopper เช่น H100 หรือ H200 โดยขนาด 328 GB จะรันบน H200 จำนวน 4 ตัวได้อย่างพอดี และเหลือพื้นที่สำหรับ KV cache ขนาด 128k-context สำหรับการใช้งานจริง

vllm serve AikidoSec/altar-1 --tensor-parallel-size 4 --trust-remote-code --max-model-len 131072

โมเดลนี้ใช้ ใบอนุญาต GLM-5.3 ซึ่งอนุญาตให้ใช้งานในเชิงพาณิชย์และดัดแปลงได้ แต่มีเงื่อนไขสำหรับองค์กรใหญ่ที่มีรายได้เกิน 10,000 ล้านดอลลาร์ที่ต้องผ่านการตรวจสอบจาก Z.AI

ในอนาคต Aikido มีแผนที่จะทดลองใช้ฟอร์แมตบิตที่ต่ำกว่าอย่าง EXL3 เพื่อรักษาผู้เชี่ยวชาญไว้ให้มากขึ้น และเตรียมที่จะปรับแต่งโมเดล (fine-tune) สำหรับงานด้านความปลอดภัยโดยเฉพาะ

สรุปประเด็นสำคัญ

• Altar-1 ลดขนาด GLM-5.3 จาก 1,506.7 GB เหลือเพียง 328 GB (ลดลง 78.2%)
• ใช้เทคนิค REAP คัดเลือกผู้เชี่ยวชาญ 168 คนต่อเลเยอร์ โดยยังคงประสิทธิภาพไว้ได้เกือบเท่าเดิม
• ค่า recall อยู่ที่ 60.4% รักษาความครอบคลุม CVE ได้ถึง 92% เมื่อเทียบกับรุ่นต้นฉบับ
• สามารถรันบน GPU H200 จำนวน 4 ตัวผ่าน vLLM ในสภาพแวดล้อมแบบปิด (air-gapped) ได้
• ใบอนุญาตเปิดกว้างให้ใช้ในเชิงพาณิชย์ ภายใต้เงื่อนไขด้านรายได้ของบริษัทผู้ใช้งาน