Transluce 一年前论文已被指覆盖 MLP 神经元可解释性核心观点
aryaman2020 · x · 2026-10-16
- livgorton 提醒：当前让社区兴奋的「MLP 神经元对可解释性比 assumed 更有用」的正向更新，其实 Transluce AI 一年前就有论文讨论过类似想法。
- 引用的原帖指出，「神经元比常被假设的更有用」这一论点此前已有人主张（如 Arora et al., 2025），且可能利用模型发育结构（developmental structure）让可解释性大幅变简单。
「研究」频道最新
- 研究推出 dropout 缩放律：按激活参数量用 sigmoid 公式定最优 dropout — gordic_aleksa · 2026-10-16
- 移除 Gemini 后相关性从 0.20 升至 0.96：通用能力与机器人能力高度挂钩 — ycombinator · 2026-10-16
- EPFL 用 RFdiffusion 设计变形蛋白,单序列可折叠两种构象 — ferruz_noelia · 2026-10-16
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型：五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- MLP 神经元可解释性六年研究脉络:一帖梳理关键论文 — aryaman2020 · 2026-10-16