Token 价格暴跌为何没省下钱？开发者呼吁关注「单步完成成本」
truecakesnake · reddit · 2026-08-04
一位 AI 模型开发者指出，尽管今年模型的每百万 Token 价格大幅下降，但实际业务支出却并未减少。
- 核心痛点：便宜的模型往往需要被反复重试。它们可能提前停止、输出错误路径或过度消耗思考预算，导致编排器频繁重试。三次廉价的失败尝试，在耗时和总成本上往往高于一次昂贵的成功执行。
- 新指标建议：传统的 $/M（每百万 Token 成本）具有误导性，行业应转向关注单步完成成本（cost per completed step）。该指标高度依赖具体的工程框架而非单纯的模型标价。
- 背景：作者在测试多款稀疏 MoE 架构模型（包括其参与开发的 Ling-3.0-flash）时发现了这一现象，并希望了解不同模型在该指标下的真实表现差异。
「漫话AGI」频道最新
- 预测人类长寿逃逸速度难实现，专家称首要目标应为人均寿命110岁 — MaxUnfried · 2026-08-04
- AMD迎战AI算力财报周，分析师指开源模型将冲击闭源利润 — AccBalanced · 2026-08-04
- OpenAI对齐团队占比不足2%，前研究员呼吁全面转向安全 — Miles_Brundage · 2026-08-04
- 扎克伯格：未来每家企业都将拥有定制化 AI 系统 — rohanpaul_ai · 2026-08-04
- Andrew Yang：AI对工作的冲击是阶跃式而非渐进式 — Olivier__OG · 2026-08-04
- LLM 展现高智商却无意识，智能与意识是两码事？ — GateSpiritual5717 · 2026-08-04