Ollama 与 Together 揭秘 coding agent 缓存失效:一个时间戳就能毁掉前缀缓存

zainhas · x · 2026-11-17

Ollama 与 Together 联合发文,总结让 Claude Code、Codex、Pi 等编码 agent 保持高速的关键——前缀缓存(prefix caching):agent 每轮都重发全部对话,长会话的速度依赖 harness 与推理引擎双方都做对。实战要点:system prompt 里的一个时间戳就足以破坏缓存;修改 reasoning effort 会清空整个缓存;告诉 agent「你的输出被截断了」能让它主动去读取遗漏内容。文章分别写清了 harness 侧和推理引擎侧各自需要满足的条件。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →