「随机鹦鹉」论战再起:机械可解释性证伪其泛化主张

burny_tech · x · 2026-09-22

Rowan Cheung 在回应 Jack Clark 时为 Emily Bender 辩护:她提出「随机鹦鹉」的本意并非断言「LLM 永远不会变强」,而是指出统计语言生成不等于有根基的理解,人们会把日益流畅的输出误当作更强的理解力——能力变强并不能反驳这一警告,反而使其更重要。要反驳她,得先指出她实际主张了什么并给出证据。

burnytech 引用补充了一个更技术性的视角:有人曾用「随机鹦鹉」主张模型没有学到任何与数据真实结构相关、有助于泛化的内部结构。这一命题的通用形式已被机械可解释性(mechanistic interpretability)研究以有限方式证伪——模型内部确实存在与真实数据结构相关的可识别结构。这是 AI 圈关于模型理解力论争的一个有实质内容的交锋。