Tim Lee：LLM能力主要靠后训练而非预训练

科技作者 Tim Lee 在与网友讨论中提出简洁概括：预训练本质是模仿学习，后训练（大部分）才是强化学习。他批评「LLM 大部分能力来自预训练」的看法是「僵尸观点」，认为持这种认知的人对大模型的了解停留在 2023 或 2024 年。相关争论引发关注，讨论认为后训练才是模型能力跃升的主要动力。

2026-11-02 ~ 2026-11-03 · 3 条相关

• Tim Lee 批「僵尸观点」：模型能力主要靠预训练已过时 — binarybits · 2026-11-02
• 「很多人的 LLM 认知停留在 2023-2024」:后训练才是能力跃升主力的争论 — batterystaple42 · 2026-11-03
• Tim Lee：预训练本质是模仿学习，后训练才是强化学习 — binarybits · 2026-11-03