Epoch AI:同等性能成本每季降47%,思考价格史上跌最快
emollick · x · 2026-09-24
Epoch AI 报告《The plunging price of thought》量化了 LLM 推理价格的暴跌:自 2023 年起,达到同等性能水平的成本约每季度下降 47%,即每年约 13 倍,快于历史上任何变革性技术——比 DNA 测序快 4 倍、比算力快 6 倍、比锂电池快 18 倍。要点:
- 分领域差异:数学类基准下降最快(每季 50–52%),游戏类谜题较慢(39–43%)。
- SOTA 效应:性能刚成为 SOTA 时价格跌最快,五个基准平均每季降 66%(年 75 倍);两年后降幅减半至每季 32%。
- 起点更早:粗略证据显示,自 2021 年 11 月 GPT-3 商业化推理起,价格就至少以此速度下降。
Ethan Mollick 借此提醒:在硬基准上拿到 25% 或 75% 分数的成本都在崩塌,当前围绕特定方案优化成本可能是短视的。数据与代码已在 GitHub 开放。
所属事件:Epoch AI 报告:同等性能 AI 成本每季降 47%(13 条相关)→
「Infra」频道最新
- 思科联手 NVIDIA 推 USFP 光模块规划:同尺寸带宽密度 4 倍 — shashib · 2026-10-19
- 投资人预言:2027 年超大规模厂商 Capex 将全面转向自研芯片 — pdamodaran · 2026-10-19
- CRWV 占 NVDA GPU 销售约 8%,类比思科循环交易警示泡沫 — churchkey · 2026-10-19
- Meta 曝 Prometheus 超集群细节:百公里互联,目标百万 GPU 单机运行 — ryanshrout · 2026-10-19
- 高盛上调 CoreWeave 至买入,看多每兆瓦回报上行 — churchkey · 2026-10-19
- DeepSeek-V4.1-Flash 压缩到 3-bit,三张 RTX PRO 6000 可跑,KLD 仅 0.066 — TheZachMueller · 2026-10-19