GPT-2 证明「你真正需要的只是」:decoder、prompting 与规模
ianand · x · 2026-09-20
ianand 总结我们宇宙的关键节点:GPT-2 只取 Transformer 的 decoder 一半,证明了「真正需要的只是」四件事——decoder 本身、单一模型处理多任务、用 prompting 替代任务微调(其中 prompting 是最大的解锁)、以及把规模做大。这条路线最终催生了今天所有流行的 LLM。
所属事件:ianand 思想实验:平行宇宙里的决策 AI「Jev」(9 条相关)→
「研究」频道最新
- Hugging Face 出现 JEV 复现追踪看板,集中记录论文复现进展 — multimodalart · 2026-09-20
- GAVEL：不改模型，仅靠 harness 把 Qwen3-8B 从 41.2% 提到 91.8% — dair_ai · 2026-09-20
- IIT 马德拉斯 AI4Bharat 推出 Indic LLM Arena,测评印度语言 LLM — heiga_zen · 2026-09-20
- 实测 LTX Video 2.5：单次生成最长 121 秒，作者推导出分辨率换算公式 — Robotman2100 · 2026-09-20
- Laurent Younes 2024 版机器学习教材免费上线可 AI 辅读 — burkov · 2026-09-20
- Nature 论文：哺乳动物大脑源自两套独立结构，蜂群心智并非空想 — juanbenet · 2026-09-20