mitsuhiko:切换推理档位会刷新 KV 缓存,Fable 5.1 是例外
mitsuhiko · x · 2026-09-06
Simon Willison(mitsuhiko)解释一个实用细节:大多数模型的 reasoning 档位写在 system prompt 里,因此中途切换推理强度会使 KV 缓存失效、增加成本。例外是 Fable 5.1,它支持在对话中途切换推理档位而不破坏缓存。
所属事件:切换推理档位会刷新 KV 缓存成开发者新坑(3 条相关)→
「编程与Agent」频道最新
- ETH Zurich 测试百名开发者:文字表达力是 vibe coding 关键预测指标 — _akpiper · 2026-09-06
- 图像+视频+智能体协同,新工具推进 Agentic 视频创作 — Lianhuiq · 2026-09-06
- ghost agent 全天候监控电脑,发现项目问题后请求授权自动修复 — BLUECOW009 · 2026-09-06
- 2000 人营销公司也只买 200 美元/月编码订阅,前沿模型太贵 — Crafty-Sugar2507 · 2026-09-06
- AI 写码时代,这 8 本软件经典反而更重要了 — bibryam · 2026-09-06
- 实测 8 个远程 MCP 服务器:最大者握手就吃掉 3.3 万 token — FreeMembership5107 · 2026-09-06