Teknium 提醒：会话内频繁切换模型致缓存失效成本翻倍

Nous Research 的 Teknium 提醒开发者，在同一会话中频繁切换模型是错误做法：每次切换都会导致新模型上的提示词缓存（Prompt Cache）整体失效，必须为所有上下文的输入 Token 重新支付全额费用。这是推理的基本原理，因此除非使用的模型完全免费，开发者应避免在会话中途频繁更换模型，否则推理成本可能成倍增加。

2026-08-25 ~ 2026-08-26 · 4 条相关

• 频繁切换模型会废掉缓存，推理成本翻倍 — Teknium · 2026-08-25
• 频繁切换模型会清除缓存，导致重复计费 — daniel_mac8 · 2026-08-25
• Teknium 提醒：会话内频繁换模型会作废缓存、重复付全价 — adrianscottcom · 2026-08-26

另有 1 条近重复转述:Daniel_Farinax