Cloudflare 用提示缓存与模型路由,把 AI 代码审查成本砍掉 68%

DanielLockyer · x · 2026-10-20

Cloudflare 分享其 AI 代码审查器（AI code reviewer）的成本优化复盘：单次审查成本从 4 月的 $1.19 一路涨到 8 月底的约 $2.46，架构未变的情况下成本翻倍。团队排查 token 去向后，通过审查器代码优化（贡献约 40% 节省）以及更换模型、调整 effort 级别（其余约 60%），把平均审查成本降到 $0.77，相比优化前最贵两周均值 $2.43 下降 68%；同时中位审查耗时从 4m09s 缩短到 1m32s。

成本上涨的原因：模型能力变强，工程师提交的变更更大更复杂，更多审查落入最贵的 full review 层级（3 月 59% → 8 月 65%）。主要手段包括 prompt caching 和按风险分层的智能模型路由。