Teknium 曝 Hermes 用户 token 构成:92.4% 是缓存读取
Teknium · x · 2026-11-22
Nous Research 的 Teknium 分享了 Hermes 模型用户(opt-in 遥测)的平均 token 构成数据。配图饼图显示:cache read 占 92.42%,未缓存输入仅 0.64%,cache write 1.21%,其他 5.73%。这意味着绝大多数实际消耗的 token 是长上下文里的缓存命中,真正的新输入占比极低——对理解 agent 工作负载的成本结构和 prompt 缓存价值是很有参考价值的一手数据。
所属事件:Teknium 曝 Hermes 用户 token 构成:九成以上为缓存读取(2 条相关)→
「编程与Agent」频道最新
- 跑数万 agent 沙箱要几万计算节点,swarm 架构图曝光 — hwchase17 · 2026-11-22
- 基于状态图的 actor 运行时:单进程跑 100 万只作战蚂蚁 — sull · 2026-11-22
- Agent 自主连跑数小时打《大乱斗》,存录像任务失败只留 15fps 低清 — anpaure · 2026-11-22
- Elvis Saravia 公开个人「知识工厂」:MD 文件图谱加每日自动化维护 — omarsar0 · 2026-11-22
- 团队用 Grok Bot 智能体 6 个月办成 5000 人大会 — GavinSBaker · 2026-11-22
- 开发者用 Gemini 4 Neon 打磨浏览器弹球游戏,物理与美术全面升级 — AI_Andrew · 2026-11-22