4300 个真实编码 Agent 会话实测:缓存命中高但成本仍平方级增长
CShorten30 · x · 2026-08-19
华盛顿大学等机构发布 TraceLab 论文,公开了对编码 agent 真实工作负载的大规模刻画研究。
- 研究者从自己日常使用 Claude Code 和 Codex 中收集并开放了约 4300 个编码 agent 会话的轨迹,包含约 35 万个 LLM 步骤和 43 万次工具调用——填补了现有公开数据集无法反映真实日常编码 agent 用法的空白。
- 核心发现:编码 agent 负载具有长自主循环、长上下文短输出、工具调用分布重尾、前缀缓存命中率高但不完美等特征。
- 优化方向:低开销工具调用、感知输出长度的 prefill、语义感知的工具延迟预测、围绕人类节奏停顿的 KV-cache 管理。
帖中引用的缓存账还指出:agent 会话中咖啡休息后一句 "hi" 可能花费 1 美元——因为缓存已冷,要为上文的百万 token 重新付费;即使开了缓存,成本仍随对话轮数平方级增长,这也是 Claude Code/Codex 在 200-300K 上下文附近做压缩的原因。
「编程与Agent」频道最新
- DeepSeek Harness 开源:高度可定制的 Agent 框架 — weswinder · 2026-08-19
- Agent交互新浪潮:告别终端,拥抱新UI体验 — omarsar0 · 2026-08-19
- 自动化平台Relay.app宣布关停:免费用户8月15日数据清零 — HaktanSuren · 2026-08-19
- RepoRelay:ChatGPT 安全读取本地代码库 — Lucaslogged · 2026-08-19
- Agent 驱动 Three.js 可视化,支持真实物理与交互 — doodlestein · 2026-08-19
- Volkern MCP Server:让 AI 智能体接管 CRM 客户管理 — modelcontextprotocol · 2026-08-19