Anthropic 开源 FlashProve：可验证推理成本高达普通推理 165 倍
arthurcolle · x · 2026-11-03
Anthropic 发布开源库 FlashProve，可为大模型推理输出生成可验证证明，并在 400B 参数的 Llama 4 Maverick（MoE）上实测。博主 @0xOsprey 进一步算了一笔经济账：
- 成本差距悬殊：单次 1024-token 请求，普通 vLLM 约 $0.0001，走 FlashProve 证明约 $0.017，约 165 倍；吞吐从每 GPU 37.2M tok/hr 跌到 0.4M tok/hr，回答时间从秒级变成 4-5 分钟
- 证明硬件更重：prover 需 1×H100 + 24 CPU + 约 280GB RAM，输出附带 18.78MB 证明文件
- 验证极便宜：客户端纯 CPU 即可验证明（C++ 版约 21 秒/$0.0003，Lean 机器校验版约 24 分钟）
- 结论：验证便宜、证明才是开销大头，只有做「客户端抽样审计」、对约 1% 流量出证明时经济上才成立（总成本约 +17%2.65 倍），全量证明不现实
所属事件:Anthropic 开源 FlashProve，实现可验证的模型推理(2 条相关)→
「Infra」频道最新
- 单机塞 4 张 RTX 3090 跑推理，PCIe 延长线怎么选 — infectiousstupidity · 2026-11-03
- B300 租金年内涨 56% 而 Neocloud ETF 跌 22%,WSJ 揭算力对冲新玩法 — AccBalanced · 2026-11-03
- 开发者身边被低估的免费算力:Oracle 每月 1500 小时 ARM、VSCode 订阅送 Azure 额度 — vincent_koc · 2026-11-03
- 5 亿行实测：手写 BFS 在 MySQL 跑 2.7ms，图数据库反而 23.6ms — JeremyCMorgan · 2026-11-03
- PostHog 弃 ClickHouse 改用 DuckDB 重建数据仓库并再度推倒重来 — teodorio · 2026-11-03
- Tesla V100 本地跑 MoE 大模型：55 tok/s 解码，31.6GB 显存缓存 8109 个专家 — Traditional_Bell8153 · 2026-11-03