Hinton 反驳「LLM 只是预测下一个词」:新语言实验证明模型真在理解
coherence · x · 2026-11-20
Geoffrey Hinton 再次回应「LLM 只是下一个词预测器」的质疑:他称这一说法在测试模型理解全新事物时会站不住脚。
他举例说,自己一位很聪明的前博士生设计了一个新编程语言实验:定义一门语法非常独特的编程语言,然后给模型一段该语言的程序,问它这段程序会做什么——模型答对了。Hinton 认为这要求模型真正理解语言定义并推断程序行为,「只预测下一个词」的说法在这种场景下说不通,说明模型确实在理解发生了什么。
所属事件:Hinton 反驳「LLM 只是预测下一个词」(2 条相关)→
「漫话AGI」频道最新
- Geoffrey Irving:「Slop 证明」连 AI 自己也难以在其上继续构建 — ronbodkin · 2026-11-20
- Take-Two 前CEO:GTA VI 将是最后一款前 AI 时代的3A大作 — zephyr_z9 · 2026-11-20
- AI 风险话题罕见破圈,科技创业者群体开始愿意听 ASI 风险讨论 — austinc3301 · 2026-11-20
- 美联储论文:AI 投资已繁荣,但生产率与就业影响尚未显现 — brucemacv · 2026-11-20
- 研究者吐槽 AI 生成论文博客泛滥:分享结果本身是科学过程 — KyleMorgenstein · 2026-11-20
- e/acc 领袖 Beff Jezos 发文抨击 Anthropic:以安全之名行监管俘获 — dansitu · 2026-11-20