scaling law 依然有效,但靠堆预训练算力已追不上前沿
ZeroStateReflex · x · 2026-10-13
一条在 AI 圈流传的判断:接下来我们会同时确认两件事——
- scaling law 依然成立:在预训练上堆大量算力仍能产出极好的模型,这条路没有失效。
- 但它已不足以追平前沿:仅靠大规模预训练,已经无法追上真正的 frontier 水平。
言下之意是头部实验室的领先来自预训练之外的组合(数据、后训练、强化学习、agent 化等),后来者即使砸算力也难以靠单点Scaling 弥合差距。这与 Meta Muse Wonder 发布后「重金预训练是否够」的讨论形成呼应。
「漫话AGI」频道最新
- Hamming 经典演讲《You and Your Research》再热传:至少 50% 时间用于表达 — OfirPress · 2026-10-13
- Hamming 名言:关门的科学家做得更多却做错题 — OfirPress · 2026-10-13
- 图灵奖得主 Patterson 断言:AI 将终结人类劳动与工会 — davidpattersonx · 2026-10-13
- Bloomberg:Epic 未公布星战漫威射击游戏全面转 AI 工作流 — IanArawjo · 2026-10-13
- 中国实验室数据支出落后美国 6–12 个月,正快速追赶 — natolambert · 2026-10-13
- Kroger 拟三年内裁减约三分之一公司职员,加速拥抱 AI — Polymarket · 2026-10-13