Teknium 曝 Hermes 用户 token 构成:92.4% 是缓存读取

Teknium · x · 2026-11-22

Nous Research 的 Teknium 分享了 Hermes 模型用户(opt-in 遥测)的平均 token 构成数据。配图饼图显示:cache read 占 92.42%,未缓存输入仅 0.64%,cache write 1.21%,其他 5.73%。这意味着绝大多数实际消耗的 token 是长上下文里的缓存命中,真正的新输入占比极低——对理解 agent 工作负载的成本结构和 prompt 缓存价值是很有参考价值的一手数据。

所属事件:Teknium 曝 Hermes 用户 token 构成:九成以上为缓存读取(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →