Anthropic IPO 路演幻灯片曝预训练算力效率呈超指数级提升
gleech · x · 2026-11-14
- 一张来自 Anthropic IPO 路演的幻灯片被公开,展示预训练算力效率随时间的曲线,y 轴为对数刻度,呈现持续的超指数级算法进步——发帖人惊讶于公司居然将其公开。
- 关键解读:早期 LLM 时代预训练水平很差,如今在数据和任务策划上也大幅进步。「Mythos」不是一次性异常,而是超指数曲线上的一点;用最初所需算力的一小部分就能重训出同等水平。
- 作者指出:这并不严格意味着纯软件的智能爆炸——Anthropic 也在加大研发投入——但算法改进并不依赖天才式的创造,且正接近被自动化,「你自己算算这意味着什么」。
转发者(ML 从业者)感叹:LLM 早期的预训练确实很差,现在数据与任务策划等其他 ML 环节也全面变好了。
所属事件:Anthropic IPO 路演图曝光：预训练算力效率超指数提升引热议(12 条相关)→
「漫话AGI」频道最新
- SfN2026 具身计算专题：从果蝇全脑仿真到 NeuroAgents — tweetsatpreet · 2026-11-15
- 开源模型让医疗数据不出院成为可能:本地部署是最容易获批的 AI 项目 — MaziyarPanahi · 2026-11-15
- 「反 AI 是心理战」：博主称批评者实为维护旧守门人垄断 — nptacek · 2026-11-15
- AI 近亲繁殖之忧：模型代代互训，千年后会退化吗？ — Huge-Conference-1193 · 2026-11-15
- 慕尼黑大学博士论文：用控制论重新理解神经网络的知识迁移与 AGI — sebkrier · 2026-11-15
- 博主预言 AGI 奇特后果：人类不再是新知识的主要受众 — VraserX · 2026-11-15