mitsuhiko:切换推理档位会刷新 KV 缓存,Fable 5.1 是例外

mitsuhiko · x · 2026-09-06

Simon Willison(mitsuhiko)解释一个实用细节:大多数模型的 reasoning 档位写在 system prompt 里,因此中途切换推理强度会使 KV 缓存失效、增加成本。例外是 Fable 5.1,它支持在对话中途切换推理档位而不破坏缓存。

所属事件:切换推理档位会刷新 KV 缓存成开发者新坑(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →