Claude Code、OpenCode、Pi 如何设计提示词缓存断点
arpit_bhayani · x · 2026-10-17
Arpit Bhayani 拆解了各编码 harness 利用前缀缓存（prefix caching）的 differnt 策略：提示词前缀不变即可跳过推理，一旦早期内容变动就使后续缓存全部失效，因此 prompt 必须按「最稳定→最不稳定」排序。
- Claude Code：静态 system prompt 和工具在最前，其次是项目记忆、session 上下文，最后是消息。
- OpenCode：缓存前 2 条 system 消息和最后 2 条非 system 消息。
- Pi：标记 system prompt、最后一条用户消息和最后一个工具。
一些 harness 不只缓存 system 消息，还会缓存到最后几条消息为止的前缀，从而在同一 system prompt 的多个用例间以及对话的后续轮次间复用缓存计算。模式很简单：静态内容在前、易变内容在后、每会话用稳定 key——只要中途改动 system prompt 一次，就得为整个前缀重新付费（钱和能耗都是）。
「编程与Agent」频道最新
- ServiceNow 给每个 AI Agent 发运行时护照，员工可自建智能体 — shashib · 2026-10-17
- 实测 MiniMax Code 做前端设计：每日签到白嫖 400 分加 Frontend Design 技能 — future_coded · 2026-10-17
- MemPalace 逐字存对话做本地记忆宫殿，LongMemEval 召回 96.6% — thisguyknowsai · 2026-10-17
- Reddit 网友自嘲:造了个 AI Agent,结果全职当保姆 — Luvena21 · 2026-10-17
- 开发者造语音助手实测 Windows 电脑:开应用竟是最难功能 — 720beats · 2026-10-17
- Codex 升级 DSH 并实测 DeepSeek-V4.1-Flash 1017 — cedric_chee · 2026-10-17