Epoch 数据:芯片能效年升 40%,AI 算力与电力缺口持续拉大
teortaxesTex · x · 2026-10-30
teortaxesTex 引用 Atlas of the Present 的「Energy and Chips」档案,讨论算力增长的能耗代价。要点:
- 芯片效率:Epoch 硬件数据显示领先芯片能效每年提升约 40%,因此「售出算力每年增长 2.5 倍」仍意味着电力消耗快速上升,只是慢于算力本身增速。
- 负载波动降低效率:德州农工论文(arXiv:2610.33300)指出训练/推理使 GPU 功率在计算与通信相位间摆动;以 1Hz 方波负载估算,240V AC 到芯片的转换效率为 89.45%,低于按恒定平均负载计算的 90.96%,说明厂商额定效率偏乐观。
- 每焦耳经济价值:斯坦福/Berkeley 等的论文(arXiv:2610.30858)在 220 个 GDPval 任务上测算,GLM 5.2 每任务净价值最高($72.27),耗能 0.430 MJ;Gemma 4 31B 每焦耳净价值约为其 2.5 倍;同一模型用 1 块 H100 与 8 块 H100 价值相近,8 块仅快 22% 却多耗 3.24 倍能源。
- 作者调侃:尚未出现朝「computronium」的递归自我改进,Jalapeno 可能是趋势松动的第一个信号。
「Infra」频道最新
- 512GB 版 M5 Ultra 为何贵:64 通道需定制 8GB 颗粒,买两台 256GB 更划算 — kingslyj · 2026-10-30
- 900行代码替换15万行PHP:开发者自建零依赖部署控制平面干掉 Coolify — fekdaoui · 2026-10-30
- LFM3 离线跑上 iPhone:2B 视觉模型识菜单,文本 40 tok/s — K4anan · 2026-10-30
- Starlink 一周内让 700 万巴西用户直连卫星,Vivo 5000 万用户可用 — XFreeze · 2026-10-30
- 第三方 API 网关价格远低于官方价,Reddit 热议背后门道 — Lin_len · 2026-10-30
- JevBench v1.8:mammoth-1 登顶开源权重榜,成本改按 GPU 租时计价 — airesearch12 · 2026-10-30