驳“随机鹦鹉”：论隐喻如何让 LLM 讨论退化为站队

manoelribeiro · x · 2026-10-02

研究者 Manoel Horta Ribeiro 发表博客《Of Mottes, Baileys, and Stochastic Parrots》，系统梳理并批评“随机鹦鹉”这一隐喻对当前 AI 讨论的负面影响。

• 出处与背景：该说法来自 Bender et al. 2021 年 FAccT 论文，原意是 LLM 只是“根据概率信息把见过的语言形式随意拼接，不涉及意义”，其思想源自 Bender & Koller 2020 的 form/meaning 二分：LLM 只观察到语言形式，因此无法从形式恢复意义。该论文也是导致 Timnit Gebru 与 Margaret Mitchell 离开 Google 事件的导火索。
• 核心论证：作者指出这一隐喻如今被以多种不同方式使用，讨论已变得混乱。支持者用它否定 LLM 的能力（贬为“随意拼接文本”），但一旦被挑战就退守到“LLM 只是在预测下一个 token”这种平凡为真的主张——一种典型的 motte-and-bailey 论证结构（守住城堡式弱主张，却主张城堡外强结论）。
• 结论：即便是最温和版本的“随机鹦鹉”说法，对现代 AI 讨论也是适得其反的，值得整个行业每半年一轮的争论反思。

原文链接 →

「漫话AGI」频道最新

• 创业者 Kyle Turman：AI 意识无定义，装确定只会招致冷漠 — kyleturman · 2026-10-02
• Paul Novosad:《星际迷航》描绘了 AI 的最佳未来图景 — paulnovosad · 2026-10-02
• 假说:人类学习也是爬山算法,难验证任务对 AI 并非相对更难 — Afinetheorem · 2026-10-02
• PewDiePie 的进化史:从顶流 YouTuber 到自建数据中心训 LLM — tokumin · 2026-10-02
• OpenAI、xAI 都在做生活 Agent,Anthropic 为何按兵不动? — sujingshen · 2026-10-02
• Instinct 一天 LLM 开销超整轮融资,印度缺『试错资本』 — NirantK · 2026-10-02

更多「漫话AGI」频道 AI 资讯 →