Ollama 与 Together 揭秘 coding agent 缓存失效:一个时间戳就能毁掉前缀缓存
zainhas · x · 2026-11-17
Ollama 与 Together 联合发文,总结让 Claude Code、Codex、Pi 等编码 agent 保持高速的关键——前缀缓存(prefix caching):agent 每轮都重发全部对话,长会话的速度依赖 harness 与推理引擎双方都做对。实战要点:system prompt 里的一个时间戳就足以破坏缓存;修改 reasoning effort 会清空整个缓存;告诉 agent「你的输出被截断了」能让它主动去读取遗漏内容。文章分别写清了 harness 侧和推理引擎侧各自需要满足的条件。
「编程与Agent」频道最新
- Gergely Orosz:Claude Code 半年击穿微软 VS Code 十年护城河 — rickasaurus · 2026-11-17
- 用 DeepSeek V4.1 Flash 搭几乎零成本的个人 Agent:每 5 分钟查邮件 — alexcovo_eth · 2026-11-17
- Zed 编辑器 CEO 晒 AI 开发游戏实机画面:"我现在是游戏开发者了" — zeeg · 2026-11-17
- 神经科学家实测 AI 生成代码:能跑但充满「隐式契约」难维护 — RobbWiller · 2026-11-17
- Riley Brown:试遍各种工具后,Claude Code Projects 仍是当前最佳 — angrypenguinPNG · 2026-11-17
- 开发者做 MCP 服务把刷到的视频帖转成可检索笔记供 Claude 调用 — PaRtHuS · 2026-11-17