CLM 提出 prefix-reuse FLOPs:量化 Agent 上下文真实算力成本
RulinShao · x · 2026-11-14
部署企业级 context agent 的开发者 hongwuxyz 分享:仅看 token 节省无法衡量上下文编辑的价值,Rulin Shao 关于 Context Language Models(CLM)的演讲补上了缺失的一环——prefix-reuse FLOPs。
- 该指标核算整个 agent 运行周期内的算力,包括缓存复用与上下文编辑后的重算。
- 结论反直觉:更短的上下文也可能花更多算力。
- 将 prefix-reuse FLOPs 与任务质量配对,就能具体评估「上下文质量」——即 token 是否真的帮助完成任务,而不只是省了钱。CLM 作者对此表示欣慰。
「编程与Agent」频道最新
- 实测 DeepSeek 语音识别 API:每小时 4 毛却输给本地 1.7B 小模型 — AGI Hunt · 2026-11-14
- SAG Wiki 免向量库建本地知识库,可对接 Claude Code 检索文档 — FellMentKE · 2026-11-14
- 递归自我改进 Agent MolRSI:湿实验命中率提升 82%,8:0 力压 ClaudeScience — 机器之心 · 2026-11-14
- OpenAI $200 档将降至 $100,用户囤 4 次 Codex 重置赶续命窗口 — koltregaskes · 2026-11-14
- tonbi 推出 AI Garage 插件:让 Agent 直接检索其全平台内容 — Teknium · 2026-11-14
- 谷歌 Modern Web Guidance 工具:让编码 Agent 用上现代 Web 能力,规范通过率 56%→95% — aigclink · 2026-11-14