Epoch AI 报告:同等 AI 性能成本每季降 47%,年降约 13 倍创历史最快
dl_weekly · x · 2026-10-01
Epoch AI 发布报告《The plunging price of thought》,量化了 AI 推理成本的历史性下降速度。
核心发现
- 自 2023 年以来,达到同等 AI 性能水平的成本每季度下降约 47%,即每年约 13 倍,比历史上任何变革性技术降价都快:比 DNA 测序快 4 倍、比算力快 6 倍、比锂电池快 18 倍、比电力(1973 年前百年间)快 54 倍。
- 更粗略的证据显示,自 2021 年 11 月 OpenAI 完全开放 GPT-3、商业 LLM 推理起步以来,「思考的价格」就一直在以至少这样的速度下降。
按任务域分化
- 基于游戏的谜题类任务降价较慢,约每季 39–43%;数学题降价最快,每季 50–52%。
SOTA 效应
- 性能刚达到 SOTA 时降价最快:五个主要能力基准平均来看,刚问世的 SOTA 性能成本每季降 66%(年降 75 倍);两年后降速减半至每季 32%(年降 4.7 倍)。
报告的数据与代码已在 GitHub 开源,并提供交互式图表页面。
「Infra」频道最新
- 32GB 显存 GPU 价格横盘:1600 美元内从低到高排序 — Rombodawg · 2026-10-01
- Pirate Face 上线:把 Hugging Face 全部开源模型做成可验证种子永存 — AIFlow_ML · 2026-10-01
- Magnitude:自适应调优的开源推理引擎,号称比 llama.cpp 快至 2 倍 — paranoidray · 2026-10-01
- Google Spanner Omni 正式 GA:可部署在任何地方的分布式数据库 — rakyll · 2026-10-01
- Meta 把数据中心报成试验设施,研发税收抵免暴增至 39 亿美元 — mkheck · 2026-10-01
- Ben Bajarin:推理时代内存成 2000 亿美元拐点的系统架构问题 — BenBajarin · 2026-10-01