斯坦福 Potts 回应叠加假设质疑：RAVEL 作者称替代解释可能成立

gregd_nlp · x · 2026-10-19

围绕 Nick Cammarata「可解释性是当下最重要的科学问题」一贴，斯坦福教授 Christopher Potts 公开了他应记者之邀撰写的评论：

• 他欢迎对「叠加假设（superposition）」现有论证的批判性重估，认为替代解释可能是成立的；
• 他坦言自己虽参与约 40 篇可解释性论文，但从未直接研究叠加假设本身——可解释性远不止这一个想法；
• 其团队开发的 RAVEL 基准（含 MDAS 方法，在 Llama2-7B 上取得 SOTA）用于评估神经网络特征解缠程度，发现许多神经元是多义的，但并未对叠加这一更具体概念下结论，并呼吁在新模型上跑 RAVEL。

背景：Cammarata 称早期 OpenAI 机制可解释性工作中仅约 2% 神经可读，而借助现代 agentic 工具，即使万亿参数模型的绝大多数神经元也已可读。

原文链接 →

「研究」频道最新

• DeepMind 用 Gemini 智能体在 Busy Beaver 前沿发现并形式化验证 11 台新图灵机 — omarsar0 · 2026-10-20
• Atomwell 发布：9B 模型在 8000 万实验数据上跑出分子发现 scaling laws — chaitjo · 2026-10-20
• SFT vs RLVR：微调方式如何影响 LLM 置信度校准的实证对比 — burkov · 2026-10-20
• OpenAI 一天发布 722 篇 AI 数学论文，Readable Intelligence 做可读版 — songyoupeng · 2026-10-20
• 果蝇全脑模拟热遭泼冷水:推主推荐一篇批评性论文 — ShahabBakht · 2026-10-20
• UCSB 团队获 NSF 100 万美元资助,研究物理系统中的高阶交互建模 — ninamiolane · 2026-10-20

更多「研究」频道 AI 资讯 →