实测最高推理档成本贵 42 倍且常无必要
Together AI 联合约翰霍普金斯、康奈尔团队发布 arXiv 论文,系统测试多模型 × 不同推理努力档位 × 多类基准(含单次推理与长程 agent 任务)的反事实效应。核心发现:最高推理档完成任务的成本可达最低档的 42 倍,但高努力不保证正确——高档解错而低档能解对的情况并不少见,且 agent 场景下你无法预先知道低档是否足够,推理努力因此成为一种「信任品」。
2026-10-28 ~ 2026-10-29 · 4 条相关
- Together AI研究:最高推理档位成本可达最低档42倍但常无必要 — togethercomputer · 2026-10-28
- 实证:低档已能解的任务,最高推理档多花 42 倍 token — zainhas · 2026-10-29
- 研究:LLM 最高推理档成本可达最低档 42 倍,还常解错低档能对的题 — zainhas · 2026-10-29
- 实测:低推理档能解的任务,顶档推理成本最高贵 42 倍 — zainhas · 2026-10-29