ianand 梳理:ChatGPT、Claude、Gemini 皆源于 GPT-2 解码器路线
ianand · x · 2026-09-20
ianand 指出,当年 GPT-2 只取 Transformer 的 decoder 一半,证明了「真正需要的只是」:decoder 本身、单一模型处理多任务、用 prompting 替代任务微调(最大的解锁)、以及规模。这些突破催生了今天所有主流 LLM——ChatGPT、Claude、Gemini 等都是 GPT-2 这条 decoder 路线的后代。
所属事件:ianand 思想实验:平行宇宙里的决策 AI「Jev」(9 条相关)→
「研究」频道最新
- 别把 2024 年论文当突破：RLAIF 早已被广泛使用 — burny_tech · 2026-09-20
- 数学家称借助 LLM 证明 Catalan 常数是无理数,百年难题告破 — burny_tech · 2026-09-20
- 大脑仅 20 瓦,类脑计算能否让 AI 摆脱耗电困局? — burny_tech · 2026-09-20
- AI 数学证明之争,学者推荐《跨代数学证明》文集 — RexDouglass · 2026-09-20
- 四个 LLM 打《毁灭战士》：Jev 击杀 5.63 领跑，实测延迟差 15 倍 — shniydder · 2026-09-20
- Odyssey-3:数十小时示教数据让单一世界模型适配多种机械臂 — ChongZzZhang · 2026-09-20