前沿实验室算力结构剧变:预训练占比从67%跌到7%
robleclerc · x · 2026-11-15
Rob Leclerc 评论一张 Anthropic+OpenAI 合计算力分配图(2024Q1–2026Q4E):预训练成本占比已从 67% 一路降到个位数,后训练/RL 与推理成为绝对大头(2026Q4E 预计推理占38%、后训练/RL占55%)。他据此推断:
- 预训练成本持续下降,这解释了中国厂商为何能持续发布优秀模型
- 中国厂商通过蒸馏绕开了高昂的后训练成本
- 真正的瓶颈已转移到后训练与推理,这两块都是带宽受限(bandwidth-bound)负载
这也回答了引用推文「若如此 Anthropic 为何还在囤算力」的疑问——算力需求没有消失,而是从预训练转向了推理与 RL。
「Infra」频道最新
- GPU 加速同源搜索引擎 Jade 发布,比 BLASTN 快 26 倍 — anshulkundaje · 2026-11-15
- InferSSD 从 SSD 流式读取 MoE 专家,显存不够也能跑大模型 — AIFlow_ML · 2026-11-15
- 路透独家:黄仁勋回应称与 Megaspeed 往来属正常商业行为 — ShakeelHashim · 2026-11-15
- 三年芯片禁运复盘:华为 AI 芯片在华销量超英伟达 — Scobleizer · 2026-11-15
- 摩根大通预测:AI 加速器出货今年 1590 万颗,2028 年翻倍至 3120 万 — Beth_Kindig · 2026-11-15
- 玩家自建 8×3090 本地推理集群:10 个 Agent 并行跑到 370 tok/s — dazzou5ouh · 2026-11-15