哲学论文用机械可解释性论证：「随机鹦鹉」图景已站不住脚
burny_tech · x · 2026-09-27
Pierre Beckmann 与 Matthieu Queloz 发表于《Philosophical Studies》的开放获取论文提出：机械可解释性（mech interp）的新发现使「LLM 只是模仿语言模式的随机鹦鹉」这一图景越来越难成立。论文把认识论中的「理解 = 把握关联」框架（如 Kvanvig、Hills 的观点）与 mech interp 证据结合，提出理解的三层级框架：
- 概念理解：模型用内部特征统一实体的多种表现，如把「SF 地标」「橙色大桥」归入单个「金门大桥」特征；
- 世界状态理解：模型在特征间建立反映外部事实的连接，如「Michael Jordan」特征总触发「打篮球」特征，并动态追踪世界变化；
- 原理性理解：模型不再依赖记忆查表，而是形成实现一般原理的紧凑电路（circuit），典型例子是模加法电路。
作者认为即使最简单的 vanilla LLM 内部也依赖哲学家在认识论论文中描述的那种「理解」结构。Andrew Lampinen 则反驳称「随机鹦鹉」一词本身就搞错了语言的技术核心。
所属事件:哲学论文借机械可解释性驳斥「随机鹦鹉」论(2 条相关)→
「漫话AGI」频道最新
- 观点：不会有单一 ASI，而是多个 ASI 陷入生存竞争 — JOBhakdi · 2026-09-27
- Timnit Gebru 批深度学习圈：把臆断当事实、无视脑科学 — mjdramstead · 2026-09-27
- ASI 反对者：进步有代价，但 ASI 是纯风险与无穷成本 — JOBhakdi · 2026-09-27
- Beff Jezos：未来回看无 AI 裸奔式知识生产会难以置信 — beffjezos · 2026-09-27
- ASI 会不会有权力意志?一场关于 AI 生存风险的本质争论 — JOBhakdi · 2026-09-27
- AI 不会「读空气」：企业 AI 的机密信息选择性共享难题 — devanshmehta · 2026-09-27