Nick Cammarata 质疑「猫车神经元」可复现性,提议预注册可解释性实验
nickcammarata · x · 2026-10-22
可解释性研究者 Nick Cammarata 就「神经网络中存在特定语义神经元(如猫+车神经元)」的争论发出挑战:要求对方预注册实验——在改变模型规模、打乱数据顺序后重训模型,预测该神经元以相近形态出现的比例。他推断:如果猫和车只是偶然共存,重训后不应稳定复现;并指出神经元通常会抑制「差一点命中」的刺激,高级语义神经元未必会大量招募早期相关特征。这引发与 Liv Gorton 关于叠加态(superposition)解释力的实质交锋。
「研究」频道最新
- 数学家撰写 Claude「2/3 定理」人类可读证明，黎曼零点下界升至 0.6725 — tak3sh8 · 2026-10-22
- Cohere 回顾 CulturalRiddles：外交官、高中生和退休教师共写谜语 — cohere · 2026-10-22
- Cohere Labs 发布 CulturalRiddles：6200 条谜语测出 LLM 文化盲区 — cohere · 2026-10-22
- AI 物理基准 CritPt v2 发布：GPT-6 Astra 以 83.1% 登顶 — OfirPress · 2026-10-22
- RIKEN Neuron 论文：丘脑网状核调控表征更新，支撑基于历史的决策 — melnykowycz · 2026-10-22
- 我们正濒临失去窥见AI真实思考过程的能力 — Puzzleheaded-King584 · 2026-10-22