智能体任务总成本在上升
ArtificialAnlys · x · 2026-07-14
Artificial Anlys 在 AI Engineer World’s Fair 上分享了一个核心判断:固定水平的“智能”正在变便宜,但完成复杂智能体任务的总成本反而在上升。
原因不只在 token 单价,还包括:
- 多轮交互:智能体任务通常需要多次 turn,前一轮输出会继续进入后续上下文,成本持续累积。
- token 效率差异:不同模型为完成同一任务会消耗不同数量的 token,哪怕单价更低,整体也可能更贵。
- prompt caching 命中率:长任务会反复传入相同指令、研究材料和工具输出,缓存命中越来越影响总价。
为刻画这类工作负载,他们提出了新的 AA-Briefcase 基准,用来衡量模型在长周期知识工作上的表现,任务跨度覆盖数周项目、数千个输入文件,并细分了 tool call、turn 和 token 的开销。
「编程与Agent」频道最新
- Cognition SWE-2 用 KKT 对偶优化长度惩罚,一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎,AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点:Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11
- 投资分析师求教:如何用 Claude 搭建尽调 Agent 工作台 — Careless_Tie2286 · 2026-09-11