智能体任务总成本在上升
ArtificialAnlys · x · 2026-07-14
Artificial Anlys 在 AI Engineer World’s Fair 上分享了一个核心判断:**固定水平的“智能”正在变便宜,但完成复杂智能体任务的总成本反而在上升**。 原因不只在 token 单价,还包括: - **多轮交互**:智能体任务通常需要多次 turn,前一轮输出会继续进入后续上下文,成本持续累积。 - **token 效率差异**:不同模型为完成同一任务会消耗不同数量的 token,哪怕单价更低,整体也可能更贵。 - **prompt caching 命中率**:长任务会反复传入相同指令、研究材料和工具输出,缓存命中越来越影响总价。 为刻画这类工作负载,他们提出了新的 **AA-Briefcase** 基准,用来衡量模型在**长周期知识工作**上的表现,任务跨度覆盖数周项目、数千个输入文件,并细分了 tool call、turn 和 token 的开销。