Yoav Goldberg发LLM工作原理科普长文：面向懂行大众
yoavgo · x · 2026-08-26
NLP知名学者Yoav Goldberg发布一个面向「有知识背景的普通读者」的LLM工作原理解释长文，与Tim合作完成（受CIFAR LMB讨论启发），并经Brett Mensh优化，将作为即将发表的稿件一部分。文中一个有启发性的细节：预训练刚结束时，模型只会续写句子而不会执行任务——问「天空是什么颜色」会续写成「我问女儿的时候……」而不是回答「蓝色」；任务能力是后续训练阶段才出现的。作者欢迎反馈。
所属事件:宾大 Kording 发文拆解 LLM 工作原理：从逐词生成到智能体(11 条相关)→
「研究」频道最新
- DeepPhylo 用深度学习推断系统发育树，摆脱恒定突变率等强假设 — anshulkundaje · 2026-10-15
- Wander 预印本提出图基础模型:随机游走接口统一图预测任务 — mmbronstein · 2026-10-15
- CHI 审稿人观察:AI 垃圾论文泛滥,但好研究依然在出现 — IanArawjo · 2026-10-15
- CMU 基准测试:135 篇 AI 代理科研论文 114 篇未过诚信审查 — arankomatsuzaki · 2026-10-15
- 让 AI 真正从经验中学习:资深从业者给出 8 条不可妥协原则 — tokenbender · 2026-10-15
- Benchling 发布 Science Foundries：智能体蜂群重塑科研工作流 — nlarusstone · 2026-10-15