24 小时长跑 Agent 实测:98.5% 输入命中缓存,推理占输出 72%

Clear_Evidence9218 · reddit · 2026-10-23

一位开发者分享了长时运行自主 Agent 的 token 统计数据,并征集社区对比。一个跑了约 24 小时的 Agent 数据:总 token 约 2278 万,其中未缓存输入 1670 万、缓存读取约 10.9 亿、输出 607 万(推理占 438 万)。

关键比值:

他还恢复了一个跑了 6 天多、在做编译器的 Agent,比例惊人地接近。作者指出这些数字不能直接衡量生产力(输出含推理 token),但新鲜输入、缓存上下文与生成输出之间的关系在长时间自主运行中保持稳定,这一点值得架构层面的关注——不同的工具与环境设计可能显著改变这些比值。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →