「很多人的 LLM 认知停留在 2023-2024」:后训练才是能力跃升主力的争论
batterystaple42 · x · 2026-11-03
一条关于 LLM 能力来源的讨论串:有人指出「很多人仍相信大部分能力来自预训练」,Timothy B. Lee 回应称这是「僵尸观点」——持这种看法的人「是在 2023 或 2024 年了解 LLM、之后没再跟进进展的人」。言下之意是近年能力跃升主要来自后训练(强化学习),社区认知需要更新。
batterystaple42 · x · 2026-11-03
一条关于 LLM 能力来源的讨论串:有人指出「很多人仍相信大部分能力来自预训练」,Timothy B. Lee 回应称这是「僵尸观点」——持这种看法的人「是在 2023 或 2024 年了解 LLM、之后没再跟进进展的人」。言下之意是近年能力跃升主要来自后训练(强化学习),社区认知需要更新。