RL 训练占比飙至 55%:SemiAnalysis 图表误读正在刷屏
repligate · x · 2026-10-14
voooooogel 转发并澄清了流传甚广的「目前只有 7% 算力用于预训练」图表的误读。repligate 指出这个数字有两种理解方式:单个 checkpoint 的训练历史中预训练占 7%,还是整个实验室算力中预训练占 7%——两者差异巨大,因为实验室往往做多个 post-training hero run 并大量废弃实验。voooooogel 解释:该图来自 SemiAnalysis Tokenomics 模型,预测的是前沿实验室整体算力分配(用于硬件需求预测),而非追踪某个具体模型的 RL 算力。图表显示预训练占比从 2024 年初的 67% 一路降到 2026 年预估的 7%,Post-training/RL 占比飙升至 55%,推理占 38%。争议点在于 RL 计算花费如何换算成单模型 FLOPs,以及「RL 比预训练更有影响力」这个概念本身是否成立。
「Infra」频道最新
- TokenSpeed 在 4×GB300 上跑 Qwen3.8-Flash-Next,单用户 685 tokens/s — Alibaba_Qwen · 2026-10-14
- 1.2 万美元内存跑 50+ 前沿 agent,比买 2 万美元 GPU 更划算 — RishabJainK · 2026-10-14
- 本地跑编码智能体:内存成本已超过 token 成本 — RishabJainK · 2026-10-14
- 时隔 14 年更新的 CUDA 刚体管线跑出 204.8 万张骨牌 — erwincoumans · 2026-10-14
- 百个工程师配 AI 即达万人协作:monorepo 需要新 Git 原语 — rickasaurus · 2026-10-14
- Modal 证明 RL 训练可用混合加速器集群,成本更低且收敛不输同构 — charles_irl · 2026-10-14