学者激辩 Scaling Law：模型变强但泛化变差？

davidmanheim · x · 2026-07-31

近期关于 AI 发展是否遇到瓶颈的讨论在 X 上引发热议。@arannayebi 转发并评论了 @RealAdamHunt 的看空观点。

@RealAdamHunt 认为，单纯依靠增加训练量和扩大模型规模就能在多领域产生广泛新能力的论点是有缺陷的。他观察到最新一代模型并没有变得更通用，反而在退化，例如语言输出质量较前代有所下降。而 @arannayebi 则指出，这更多是预训练数据质量导致的问题，而非底层训练方法（如强化学习、自监督学习）本身缺乏通用性。