可解释性讨论：多跳推理下模型或不存在「实体」表示
livgorton · x · 2026-10-19
一场关于神经元可解释性的技术讨论：luciaquirke 解释，「巴黎有什么景点？」这类提示可能同时激活 (法国、巴黎、埃菲尔、国家) 与 (景点、埃菲尔、金门大桥) 两个神经元，其增益叠加后对「Eiff」token 影响最大——在这套本体论里，「实体」本身并不作为独立表示存在。livgorton 追问：单跳情形尚可理解，但多跳推理下是否仍会形成类实体的表示？讨论触及特征多义性与组合表示的核心争议。
所属事件:MLP 神经元单义性之争：模型知识量是否被神经元数封顶(8 条相关)→
「研究」频道最新
- Mike Frank 抛出超导可逆计算难题:能否用无偏置约瑟夫森结凑齐 BARCS 通用原语集 — MikePFrank · 2026-10-23
- Arc Institute 用基因组语言模型绘制原核非编码序列图谱 — tedgreenwald · 2026-10-23
- 同行评审的 AI 化：审稿人终于「进入附录」了 — abursuc · 2026-10-23
- Anthropic 用 Claude 为 100+ 开源库写下汇编级安全形式化证明 — AnthropicAI · 2026-10-23
- 研究：Agent 面试式筛选可过滤错位模型，团队保持 81-83% 干净 — shangbinfeng · 2026-10-23
- 研究提出 9 种策略为多 LLM 协作选模型，最优可超随机 36.1% — shangbinfeng · 2026-10-23