日内瓦大学教授讽 Transformer 无理解靠统计线索取胜

日内瓦大学教授、AI 研究者 François Fleuret 发推调侃 Transformer 的运作方式，称模型实际上并不真正理解对话内容，而是凭借对上下文的完美记忆与召回，抓住每一个统计线索来最小化交叉熵、预测下一个词，从而在任务中取胜。他借此批评对交叉熵指标的迷信，引发关于模型是否具备真正理解的讨论。

2026-11-08 ~ 2026-11-08 · 2 条相关