前 OpenAI 研究员 liv Gorton:叠加假说对对抗样本有惊人预测力
livgorton · x · 2026-10-22
- liv Gorton(livgorton)在与 Nick Cammarata 等人的讨论中主张,superposition(叠加)假说对神经网络中大量反直觉行为具有「非凡的预测力」,例如对抗样本的各种出乎意料的表现,她认为叠加几乎能解释全部这些现象。
- 在后续补充中她表示:她真心希望叠加假说是「假新闻」,并且认为必须对候选解释保持不执着的开放心态;她曾非常努力地试图说服自己接受对方关于某个具体神经元的观点,但跑了大量实验后仍看不到相应证据,期待相关论文能更有说服力。
- 这是一场关于可解释性研究方法论与机制假说验证的实质争论,参与者观点对立且各有论证。
所属事件:Liv Gorton 长文逐条反驳「神经网络已经干净」论(11 条相关)→
「漫话AGI」频道最新
- 本·托德盘点最准 AI 预测者：普遍预计 2028-2029 超人类 AI — ben_j_todd · 2026-10-22
- 顶级 AI 预测者共识：超越人类的 AI 或在 2028-2029 年到来 — ben_j_todd · 2026-10-22
- Meta 高管 Derya 附议：2028 年超级智能将远超 ChatGPT 以来四年之变 — DeryaTR_ · 2026-10-22
- Matt Turck：AI 产业链全员互卷，芯片商、模型商、应用商边界消失 — mattturck · 2026-10-22
- 1979 年 IBM 幻灯片：计算机绝不能做管理决策，今日读来尤为扎心 — ExcitingImage9211 · 2026-10-22
- Shukla 与 Imas 发表长文：技术进步与工作的意义 — paulnovosad · 2026-10-22