Anthropic开源FlashProve:用zkSNARK证明模型回复真的来自承诺权重
winer666 · reddit · 2026-11-04
Anthropic 联合 EPFL、MIT 等机构于 11 月 2 日发布可验证推理研究 FlashProve:用 zkSNARKs 零知识证明一条回复确实由某个承诺的模型权重生成,且不泄露权重,可捕捉 token 流中途被篡改,让独立评估者到终端用户都能核验「拿到的就是承诺的模型」。
关键数据与限制
- 在 Llama 4 Maverick(400B 参数 MoE、4-bit 权重)上测试,证明耗时约为 vLLM 推理的 70-95 倍 GPU 时间
- 仅支持最长 1,024 token 的上下文;证明覆盖整数化模型、贪婪解码;模型架构本身不隐藏
- 代码与 Lean 形式化证明以 Apache 2.0 开源,官方定位为研究原型
讨论点:如果证明成本降下来,是否会改变我们对托管模型的信任方式?目前 70-95 倍开销大概只能先用于审计与受监管场景。
所属事件:Anthropic 开源 FlashProve：zkSNARK 可验证推理原型(18 条相关)→
「安全」频道最新
- OpenAI 研究：安全评测成绩反而低于生产环境，评测目标认知是关键 — kaicathyc · 2026-11-04
- 安全研究者吐槽：Homebrew 官方安装方式比 Google 广告还可疑 — matthew_d_green · 2026-11-04
- 求职面试变投毒局：假 NFT 项目借 GitHub 仓库偷钱包 — dotey · 2026-11-04
- 印度 CERT-In 接入 Anthropic 旗舰模型加固网络防御，担忧数据外泄 — nordicinst · 2026-11-04
- Cloudflare 推出 Zero Wire：为关键漏洞情报做「新闻通讯社」式实时流 — Kyrannio · 2026-11-04
- CCIA 发文论证：用版权材料训练 AI 属于合理使用 — nordicinst · 2026-11-04