Teknium 提醒:会话内频繁换模型会作废缓存、重复付全价

adrianscottcom · x · 2026-08-26

Nous Research 的 Teknium 提示:如果在同一个会话里频繁切换模型,每次切换都会让 prompt cache 在新模型上整体失效,需要为全部输入 token 重新支付全价。除非模型免费,否则不要这样做——这不是某个模型的特性,而是推理的基本机制。

所属事件:Teknium 提醒:会话内频繁切换模型致缓存失效成本翻倍(4 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →