Ollama 踩坑实录:系统提示一个时间戳就能毁掉缓存

zainhas · x · 2026-11-17

Together 的 zainhas 与 Ollama 的 parthsareen 联合撰文,总结在 Claude Code、Codex、Pi 等编程 agent 中保持响应速度的 prefix caching 实践。核心:agent 每轮重发整个对话历史,prefix caching 能让长会话保持快速,但前提是 harness(客户端)与推理引擎两边都做对。

他们踩过的坑:

这是一篇 harness 与推理引擎协同做缓存优化的工程复盘,对自建 agent 编排的开发者很有参考价值。

所属事件:Together 与 Ollama 联合详解 prefix caching 加速编程 agent(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →