Anthropic เปิดตัว FlashProve พิสูจน์คำตอบจากโมเดลได้จริงโดยไม่เผยค่าน้ำหนัก
Frontier Red Team ของ Anthropic ได้เปิดตัว FlashProve ซึ่งเป็นต้นแบบงานวิจัยแบบ open-source สำหรับ provable inference โดย FlashProve คือระบบ zkSNARK จาก Anthropic ที่พิสูจน์ว่าคำตอบมาจากโมเดลที่กำหนดไว้ (committed model) การพิสูจน์นี้จะไม่เปิดเผยข้อมูลใดๆ เกี่ยวกับ model weights สำหรับ Llama 4 Maverick ซึ่งเป็นโมเดล mixture-of-experts ขนาด 400B มันสามารถพิสูจน์ได้ที่ความเร็วประมาณ 110 tokens/second บน H100 1 ตัว สำหรับนักพัฒนา สิ่งนี้มุ่งเป้าไปที่ช่องว่างที่เกิดขึ้นจริง เนื่องจากในปัจจุบันคุณไม่สามารถตรวจสอบได้ว่าโมเดลใดเป็นผู้ตอบการเรียก API ของคุณกันแน่
TL;DR
- ขนาด: พิสูจน์โมเดล MoE ขนาด 400B (~17B active parameters ต่อโทเคน) จำกัด context ไว้ที่ 1,024 โทเคนต่อคำขอ
- การรัน: Prover ต้องการ H100 80 GB 1 ตัว, 24 CPU cores และ RAM โฮสต์ประมาณ 290 GB ส่วน Verifier รันบน CPU ไม่ต้องใช้ GPU
- ประสิทธิภาพ: เร็วกว่าระบบ zkML แบบ open-source รุ่นก่อนๆ หลายเท่าตัวบนโมเดล 400B เดียวกัน
- ดีที่สุด: การพิสูจน์ที่ความเร็ว 110 tokens/second บน H100 1 ตัว พร้อมหลักฐานขนาด 18.78 MB ที่ตรวจสอบได้ใน 17 วินาที
- แย่ที่สุด: ต้นทุนการพิสูจน์สูงกว่าเวลา GPU ของการรัน vLLM inference ปกติประมาณ 70 ถึง 95 เท่า
provable inference แก้ปัญหาอะไร?
ผู้ใช้ที่คิวรีโมเดลมักไม่สามารถตรวจสอบได้ว่าโมเดลใดสร้างคำตอบนั้นขึ้นมา บริการกำหนดเส้นทาง (routing service) อาจสลับเอาโมเดลที่ราคาถูกกว่ามาใช้ หรือผู้โจมตีอาจใช้เทคนิค Social Engineering เพื่อปลอมแปลงกระแสข้อมูลโทเคน ซึ่งการตัดสินจากคุณภาพของผลลัพธ์เพียงอย่างเดียวนั้นไม่น่าเชื่อถือ
Anthropic ระบุกรณีการใช้งานสำคัญไว้ 4 ประการ ได้แก่ หน่วยงานกำกับดูแลสามารถยืนยันได้ว่าฮาร์ดแวร์ให้บริการการอนุมานจริงเพื่อสนับสนุนกฎเกณฑ์ด้านความเร็วของ AI, ห้องปฏิบัติการสามารถตรวจจับเซิร์ฟเวอร์การอนุมานที่ถูกดัดแปลงได้, ผู้ใช้สามารถตรวจสอบแหล่งที่มาของข้อความได้ และหน่วยงานกำกับดูแลสามารถบังคับใช้การให้บริการเฉพาะโมเดลที่ได้รับอนุมัติเท่านั้น
FlashProve ทำงานอย่างไร?
FlashProve ประกอบด้วย prover (ผู้ให้บริการโมเดล) และ verifier (ผู้ใช้) โดยแบ่งการทำงานออกเป็น 2 ระยะ คือระยะ Offline ซึ่งผู้ให้บริการจะเผยแพร่ commitment หรือลายนิ้วมือสั้นๆ ที่ผูกกับชุดค่าน้ำหนักที่แน่นอน โดยใช้เวลาประมาณ 39 นาทีและครอบคลุมคำขอได้ถึง 16 ล้านรายการ
ส่วนระยะ Online สำหรับแต่ละคำขอ GPU จะสร้างหลักฐานว่าโมเดลที่กำหนดไว้นั้นเป็นผู้สร้างโทเคนเหล่านั้นขึ้นมาจริง ระบบจะคอมไพล์ interactive oracle proof ให้กลายเป็นการพิสูจน์เชิงเข้ารหัสโดยใช้ฟังก์ชันแฮช ซึ่ง Anthropic กล่าวว่าสิ่งนี้ให้ความปลอดภัยระดับ post-quantum เช่นเดียวกับที่ใช้ในเครือข่าย L2 แบบ validity-proof อย่าง Starknet
ความเร็วของระบบขับเคลื่อนด้วยตัวเลือกทางวิศวกรรมสามประการ คือ งานของ Prover จะปรับขนาดตามพารามิเตอร์ที่ใช้งานจริงเท่านั้น (~17B จาก 400B), คำขอจะถูกพิสูจน์เป็นชุด (batches) หลังเสร็จสิ้นกระบวนการ prefill และค่าน้ำหนักจะสตรีมจากหน่วยความจำโฮสต์ ทำให้ใช้ GPU 80 GB เพียงตัวเดียวก็เพียงพอ
ผลการทดสอบประสิทธิภาพ (Benchmarks)
Anthropic วัดผลค่าน้ำหนัก Maverick แบบ 4-bit บน H100 1 ตัว พร้อม 24 CPU cores พบว่าในการรัน Batch ขนาด 24 ทำความเร็วได้ 111.23 tokens/second (ประมาณ 221-226 วินาทีต่อชุด) ส่วน Batch ขนาด 1 ทำได้ 17.41 tokens/second ขณะที่ขนาดหลักฐาน (Proof size) อยู่ที่ 18.78 MB โดยลูกค้าดาวน์โหลดข้อมูลเพียง ~6.5 MB ครั้งเดียวต่อ commitment และใช้เวลาตรวจสอบ (Verification) เพียง 17 วินาทีบน 24 threads
เมื่อเทียบกับ vLLM ที่รัน FP8 Maverick บน H100 8 ตัว ต้นทุนการพิสูจน์จะอยู่ที่ประมาณ 72 เท่าของเวลา GPU ต่อชุด และในภาระงานสูงสุดที่ทดสอบ ช่องว่างของต้นทุนอาจสูงถึงประมาณ 94 เท่า
FlashProve เปรียบเทียบกับระบบ zkML อื่นๆ อย่างไร?
| เกณฑ์วัด | FlashProve | Attestable | VerInf | DeepProve | zkLLM |
|---|---|---|---|---|---|
| โมเดลที่พิสูจน์ | Llama 4 Maverick (400B MoE) | Gemma 4 31B (dense) | Llama 4 Maverick (400B MoE) | GPT-2, Gemma 3 | LLaMA-2-13B |
| Throughput | ~110 tok/s | 53 ถึง 77 tok/s | ~0.02 tok/s | ~2.9 tok/s | ต่ำกว่า 15 นาที |
| ฮาร์ดแวร์ | 1 H100 + 24 CPU cores | 1 H100 | 1 DGX Spark | 1 เครื่อง | GPU (CUDA) |
| ขนาดหลักฐาน | 18.78 MB | 4.35 ถึง 7.92 MiB | 93.6 GB | ไม่เปิดเผย | ต่ำกว่า 200 kB |
| เวลาตรวจสอบ | 17 วินาที | 157 ถึง 648 ms | 17.7 ชม. | 1 ถึง 3.7 วินาที | ไม่เปิดเผย |
| Context | 1,024 โทเคน | สูงสุด 16K โทเคน | 1,000 โทเคน | ไม่เปิดเผย | ไม่เปิดเผย |
| โค้ด / ใบอนุญาต | Open, Apache 2.0 | ไม่ใช่ open source | Open, MIT | Open source | Paper (CCS 2024) |
การตรวจสอบความปลอดภัย เนื่องจากโค้ดการเข้ารหัสนั้นเปราะบาง Anthropic จึงกำหนดโปรโตคอลอย่างเป็นทางการในภาษา Lean เพื่อพิสูจน์ทั้งความครบถ้วน (completeness), ความถูกต้อง (soundness) และความเป็น zero knowledge โดยระบุว่าผู้ให้บริการที่โกงจะถูกจับได้เกือบทั้งหมด เว้นแต่จะมีความน่าจะเป็นที่น้อยมากระดับ q/2^124 + 2^-101
FlashProve มาพร้อมกับ verifier 2 ตัว คือ C++ verifier ที่ทำงานรวดเร็วสำหรับการใช้งานทั่วไป และ Lean verifier ที่ทำงานช้ากว่าแต่ได้รับการพิสูจน์แล้วว่ามีความถูกต้องแม่นยำตามทฤษฎี โดยทีม Anthropic ระบุว่า Claude ได้มีส่วนช่วยในการเพิ่มประสิทธิภาพของระบบนี้ด้วย
สรุปประเด็นสำคัญ
FlashProve สามารถพิสูจน์โมเดล MoE ขนาด 400B ได้ด้วยความเร็ว 110 tokens/second บน H100 เพียงตัวเดียว โดยให้หลักฐานขนาด 18.78 MB ที่ตรวจสอบได้บน CPU ในเวลาอันสั้น แม้ต้นทุนการพิสูจน์จะสูงกว่าการรันปกติ 70-95 เท่า แต่ก็แลกมาด้วยความปลอดภัยที่กำหนดอย่างเป็นทางการใน Lean และรักษาความลับของค่าน้ำหนักโมเดลได้สมบูรณ์ อย่างไรก็ตาม ปัจจุบันยังจำกัดอยู่ที่ 1,024 โทเคน และใช้ได้กับโมเดลประเภท MoE เท่านั้น
ความคิดเห็น (0)
เข้าสู่ระบบเพื่อร่วมแสดงความเห็น
สมัครสมาชิกมาเป็นคนแรกที่แสดงความเห็นกันเลยโบร