缓存回复的错大多来自“看似安全”的精确匹配，CacheVerifier 实测揭示反直觉结论
Reasonable_Royal_621 · reddit · 2026-11-07
CacheVerifier 团队在按时间顺序回放的 AmazonHelp 与 Comcast 真实客服推文上验证其 conformal risk control 错误率保证：12 个设置中 11 个守住目标，基本成立。
真正的意外是错误来源：常规做法只验证灰色地带、对余弦相似度 0.97 以上的“近似精确匹配”直接放行，结果这类请求的出错率是整个已验证灰色地带的 2 到 7 倍——像“ok”“有更新吗？”这种短句看起来一样，正确回复却取决于上下文。
修正方案是让所有命中都过一次验证器、只用单一阈值，12 个随机切分设置全部守住每请求目标，代价约为每 100 次请求多 2.5 次验证调用。完整分析见 GitHub 第 8 节。
「编程与Agent」频道最新
- 让 agent 写 RL 实验，它把 token 预算做成旋转鹅进度图 — nabla_theta · 2026-11-07
- 20 年 C++ 老兵自写 ComfyUI 原生桌面客户端，告别浏览器卡顿 — elgeminy · 2026-11-07
- libghostty 1.0 发布：JetBrains 等产品 1250 万用户已在用 — jedisct1 · 2026-11-07
- Teknium：会话超 10 万 token 时上下文检索更划算 — Teknium · 2026-11-07
- Claude Opus 5.5 把 3 分钟任务做成 3 小时,自曝 57 条失误 — PMinervini · 2026-11-07
- Xepak:从 PostgREST 替代品长成本地 REST/RPC/MCP/RAG 一体构建器 — rumatoest · 2026-11-07