Hinton 反驳「LLM 只是预测下一个词」:新语言实验证明模型真在理解

coherence · x · 2026-11-20

Geoffrey Hinton 再次回应「LLM 只是下一个词预测器」的质疑:他称这一说法在测试模型理解全新事物时会站不住脚。

他举例说,自己一位很聪明的前博士生设计了一个新编程语言实验:定义一门语法非常独特的编程语言,然后给模型一段该语言的程序,问它这段程序会做什么——模型答对了。Hinton 认为这要求模型真正理解语言定义并推断程序行为,「只预测下一个词」的说法在这种场景下说不通,说明模型确实在理解发生了什么。

所属事件:Hinton 反驳「LLM 只是预测下一个词」(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →