学者质疑 DoM 引导方法：定位方法选对层不代表两者都正确
johnhewtt · x · 2026-10-27
作者在与 @arunasank 的讨论中提出：DoM(方向 of 目标)作为选择激活修改方式的方法,并不比基于梯度选择引导向量更透明——两者最终都要经过深度网络的非线性解释,谈不上谁更可解释。
他的核心论点是:定位方法(可能出错)与激活修改方式 DoM(同样可能出错)是两个独立环节,「DoM 在定位方法选出的层上效果更好」这一实验结果,并不能证明其中任何一个方法是正确的。
所属事件:可解释性争论：转向该用均值差还是梯度下降(6 条相关)→
「研究」频道最新
- Kevin Bryan 演示「人机共创」设计工具并谈 AI for Science 训练逻辑 — Afinetheorem · 2026-10-27
- Szegedy 感叹：训练损失的这一缺陷竟十多年无人察觉 — ChrSzegedy · 2026-10-27
- Claude 内部研究模型称自主发现反驳指数时间假设的 3-SAT 算法 — scaling01 · 2026-10-27
- 开发者惊传指数时间假设 ETH 被推翻，SAT 复杂度常识或遭颠覆 — akbirthko · 2026-10-27
- RL 环境设计长文：会操作软件不等于会达成目标 — ShenRaphael · 2026-10-27
- Δτ-Bench：工具生态持续演化下，最强模型任务成功率仅42.3% — UniversityCollegeLondon · 2026-10-27