可解释性研究者泼冷水：模拟不了神经元就不算真正解释了它
nabla_theta · x · 2026-10-16
可解释性研究者 nablatheta 回应 nickcammarata 的新工作，提醒大家不要对可解释性（interp）过度乐观：
- 当前需要更严格地评估解释，而不是凭感觉判断。
- 核心主张：「如果你不能模拟一个神经元，你就没有真正解释它」，而模拟神经元很可能比找到看似合理的解释难得多。
- 她认为博客对模拟的批评可以改用 KL 散度（而非神经元相关性）来规避，相关长文正在写作中。
「漫话AGI」频道最新
- Dario Amodei:距 AI 全面超越人类或仅两三年,遭批「不在乎民主」 — PolarBearby · 2026-10-16
- 别担心 AI 抢工作：三条推演里担忧都不改变结局 — JnBrymn · 2026-10-16
- repligate 转 Mythos 长文: Claude 说的「渺小感」是精确的自我知觉 — repligate · 2026-10-16
- 澳大利亚发布校园 AI 指南:小学前三年建议完全不用 AI — lmoroney · 2026-10-16
- Dwarkesh 对谈 Tyler Cowen：2030 年 AI 全面自治与机器人时薪几美元 — Neurogence · 2026-10-16
- Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远 — inductionheads · 2026-10-16