推理需求一年暴涨,在后训练/RL 增长曲线上却近乎平线
zainhas · x · 2026-10-11
作者 zainhas 指出:过去一年推理(inference)需求几乎垂直飙升,但放进更大的增长曲线图里看,与 post-training/RL 的增长相比,它只是旁边的一条平线。配图对比了二者的增长幅度,暗示 post-training 与强化学习阶段的算力消耗增速远超推理,是当前算力需求爆发的更主要驱动力。
「Infra」频道最新
- 黄仁勋不满实验室自研芯片,NVIDIA 或正面迎战前沿实验室 — pzakin · 2026-10-11
- 本地跑 Qwen 27B 换 Flash Next:RTX 5090 用户谈模型升级取舍 — MasterNomie · 2026-10-11
- AirLLM 逐层推理:4GB 显存跑 70B 模型,8GB 可上 405B — JensHonack · 2026-10-11
- 5090+32GB 内存能逼近 Codex 多少？网友求解本地编码智能体配置 — GooseEggs712 · 2026-10-11
- 两张图看懂:近两年训练算力从预训练转向后训练 — japie06 · 2026-10-11
- 让模型「原地重复」:权重循环复用把语音模型压缩 13 倍 — pbaylies · 2026-10-11