Tim Lee:预训练本质是模仿学习,后训练才是强化学习
binarybits · x · 2026-11-03
科技作者 Tim Lee(@binarybits)在与 @batterystaple42 的讨论中给出一个简洁概括:预训练是模仿学习,后训练(大部分)是强化学习。这一提法呼应了他此前的观点——很多人仍以为模型能力主要来自预训练,而这已是过时认知。
所属事件:Tim Lee:LLM能力主要靠后训练而非预训练(3 条相关)→
「漫话AGI」频道最新
- HBR:企业该警惕「人在环路」谬误,人类角色会持续萎缩 — luisdans · 2026-11-03
- 「AI 垃圾」多是语法更好的真人垃圾:AI 只是放大器 — therealdanvega · 2026-11-03
- Naruto 作者在漫画里「公开写作」,博主称这是 AI 替代不了的 DNA — marclou · 2026-11-03
- 能否再造 Folding@home 式众包网络,用全球闲置算力跑大模型? — lenicalicious · 2026-11-03
- Prime Intellect 驻留者抛出难题:高价值知识工作没有可验证答案,RL 奖励怎么定? — xeophon · 2026-11-03
- 仿真关键在物理而非画面:机器人仿真正变成 Agent 的自动科研任务 — wellecks · 2026-11-03