Tim Lee 批「僵尸观点」：模型能力主要靠预训练已过时
binarybits · x · 2026-11-02
Tim Lee（@binarybits）指出，很多人仍然相信 LLM 的大部分能力来自预训练，他把这类认知称为「僵尸观点」——主要出自那些 2023 或 2024 年才了解 LLM、之后就没再跟进领域进展的人。这与他的另一条观点一致：预训练是模仿学习，后训练（大部分）才是强化学习，能力的跃升更多发生在后训练阶段。
所属事件:Tim Lee：LLM能力主要靠后训练而非预训练(3 条相关)→
「漫话AGI」频道最新
- 开发者晒 agent 全托管邮箱：很久没手动收发一封邮件了 — signulll · 2026-11-03
- 企业 AI 演示必成功恰是问题所在：第二个月的现实才见真章 — arieljalali · 2026-11-03
- Yoav Goldberg 晒 InterpBench：机制可解释性评测基准已现成可用 — yoavgo · 2026-11-03
- 机器人推理为何难成独立生意:部署能力才是护城河 — silver__tsuki · 2026-11-03
- 异质个体组成的文化一致Agent公司，优于同质无身份克隆体 — lfschiavo · 2026-11-03
- TechBio 年度调查：Claude 日常使用率暴涨 28 点，乐观情绪转冷 — nlarusstone · 2026-11-03