Teknium 提醒:会话内频繁换模型会作废缓存、重复付全价
adrianscottcom · x · 2026-08-26
Nous Research 的 Teknium 提示:如果在同一个会话里频繁切换模型,每次切换都会让 prompt cache 在新模型上整体失效,需要为全部输入 token 重新支付全价。除非模型免费,否则不要这样做——这不是某个模型的特性,而是推理的基本机制。
所属事件:Teknium 提醒:会话内频繁切换模型致缓存失效成本翻倍(4 条相关)→
「编程与Agent」频道最新
- Datadog 发布 Scout 1.0:基于 GLM-5.3 Flash 后训练的低成本 SRE Agent — antoine_chaffin · 2026-10-16
- Marc Lou 公开安利 PostShiba:独立开发者的邮件基础设施新选择 — marclou · 2026-10-16
- RExBench 基准:最强编码 Agent 自主完成研究扩展成功率仅 33% — najoungkim · 2026-10-16
- 开发者把 Pstack skills 装进 Grok bot 与 Hermes agents — alexcovo_eth · 2026-10-16
- past.dev 推出 Agent 长期记忆 API,登顶 BEAM 公开记忆基准 — thisiskp_ · 2026-10-16
- Google 发布 CLASHarness:基准测试多智能体冲突下的计算机操作能力 — google · 2026-10-16