研究者质疑 scaling 分析:模型设定离散跳跃为零是否先入为主

JacquesThibs · x · 2026-11-08

JacquesThibs 质疑一份关于预训练规模扩大的拟合分析:报告采用无不连续跳跃的分段线性拟合,等于在构造上就把离散能力跳跃设为零,而非让数据自由估计。他认为无需依赖两组模型间的训练算力差,独立证据已足以支持更大规模预训练会带来能力跃升(Mythos 能力跳变),Anthropic 的观点是一次性跳跃,而该分析却假设完全没有跳跃,这一建模选择令人怀疑,除非另有证据。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →