学者辩论:预训练提升或更多来自人工改进而非堆算力堆数据
davidmanheim · x · 2026-09-09
davidmanheim 回应 Toby Ord 对「只加算力/只加数据」路线的批评,认为预训练质量的边际证据表明改进更多来自算力、数据之外的因素,这意味着纯 scaling 轨迹的天花板比宣称的更低更平。他并提出一个值得追问的问题:「质量缩放」(quality-scaling)的上限在哪里——数据质量提升是否存在边界。
所属事件:学者激辩预训练 scaling 放缓，改进或更多来自算力之外(4 条相关)→
「漫话AGI」频道最新
- Khosla 呼吁 FDA 按「超越医生中位数」认证 AI，急诊医生反驳 AI 不会「做动作」 — DrDatta_AIIMS · 2026-09-09
- 马斯克：AI 与机器人将在十年内令全球经济翻逾一倍 — DimaZeniuk · 2026-09-09
- OpenAI 五年拟砸近万亿美元算力，专家:算力将集中于AGI而非推理 — NinaDSchick · 2026-09-09
- Anthropic 员工称十年内 AI 灭绝人类概率超 10%，a16z 合伙人呛声 — venturetwins · 2026-09-09
- 嘲笑「AI 末日营销」的人，正眼看不懂实验室内部动向 — jeremiecharris · 2026-09-09
- Sandberg 反驳：正确目标可能因 Kolmogorov 先验而极其简单 — anderssandberg · 2026-09-09