Agent 的隐性成本在 KV cache:DeepSeek 压到每 token 约 890 字节
altryne · x · 2026-09-12
Chris Alexiuk 指出 agent 运行成本的秘密在于 KV cache:账单大头取决于缓存命中还是未命中,而非算力本身。
DeepSeek 走的压缩路线将 KV cache 压到每 token 约 890 字节,让更多上下文保持"热"状态而不会烧掉 GPU,是控制长上下文 agent 推理成本的关键路径。
所属事件:Agent 成本关键在 KV cache,而能力翻车又引 AGI 吐槽(2 条相关)→
「编程与Agent」频道最新
- dhh 谈 AI 时代编程:写代码不再是瓶颈,人才是 — NERDDISCO · 2026-10-31
- pi 编码 Agent 获 Rust 原生移植,免 Node 单二进制可日常使用 — jasonkneen · 2026-10-31
- 开源 ComfyUI Motion Previs Studio:先用 3D 分镜导演,再交给 AI 生成视频 — navarisun · 2026-10-31
- Replit CEO 转发:让 Replit 用 Computer Use 操控 Chrome 跑通 — amasad · 2026-10-31
- Railway 泄露密钥后,Every 团队用 Codex 与 Agent 化解危机 — every · 2026-10-31
- Google 新增 /goto 反爬验证,重创转售 SERP 的 agent 搜索公司 — jobergum · 2026-10-31