RL 后训练算力账:权重更新每回合一次,究竟算训练还是推理?
davidmanheim · x · 2026-10-13
David Manheim 回应 Ben Todd 关于 RL 算力构成的讨论,指出后训练阶段的大量 RL 算力并非用于推理部分:每次权重更新的计算开销其实更大,但每个 RL 回合只做一次更新,因此按回合摊算,这些算力反而更接近推理算力的口径。这是一段关于如何归类 RL 训练/推理算力占比的细节辨析,对估算 AI 算力分布有参考意义。
「Infra」频道最新
- IBM 用 Inductor 替换自研编译栈,为 75W Spyre 推理加速器瘦身 7 倍 — PyTorch · 2026-10-13
- 服务器自报高可用,客户端却连不上:可用性该站在谁视角 — Franc0Fernand0 · 2026-10-13
- 权重只是四分之一:详解 LLM 推理为何照样爆显存 — blaizedsouza · 2026-10-13
- 一张图看懂美国 4079 TWh 电都去哪了,数据中心只是零头 — skorusARK · 2026-10-13
- 美国还在为数据中心争吵,中国已在大规模快速兴建 — GeneReddit123 · 2026-10-13
- Scaledown 专精小模型宣称推理快 200 倍、成本低 467 倍 — cneuralnetwork · 2026-10-13