缓存优化把 DeepSeek economy 档命中率推到 97.54%
CalmObligation554 · reddit · 2026-11-10
Reddit 用户晒出跨 DeepSeek 与 GLM 模型的缓存命中率优化成果:DeepSeek economy 档当日命中率达 97.54%。高缓存命中率意味着绝大部分输入 token 按缓存价计费,可大幅压低 API 调用成本,配图为相关统计截图。
「Infra」频道最新
- 26 人团队发 212 页论文,提出可暂停前沿 AI 十年的「硬接线暂停」方案 — DavidSKrueger · 2026-11-10
- Anthropic 与 OpenAI 算力结构剧变:预训练占比两年从 67% 跌至 7% — akbirthko · 2026-11-10
- 研究 1600 座数据中心：建成后 3-5 年新增约 1000-1300 个岗位 — RachelVT42 · 2026-11-10
- rakyll 预告：Agent Substrate 有望成为智能体算力底座，KubeCon 演讲将展开 — rakyll · 2026-11-10
- ngrok AI Gateway 接入 Liquid AI 与 160+ 模型，小模型把盆栽警报当急call — JosephJacks_ · 2026-11-10
- Together Compiler 发布：Kimi K3 推理吞吐最高提升 2.7 倍 — togethercompute · 2026-11-10