研究者争论：五年 mechinterp 研究是否可能是「负知识」
jd_pressman · x · 2026-10-16
jdpressman 与 @tszzl、@LakeSnyde 讨论可解释性研究的价值：如果「多义性（polysemanticity）」这个前提本身站不住脚，那过去五年关注 mech interp 的人，相比直接无视这个方向的人，可能积累的是「负知识」。
他还补充认为，GPT-2 之前的整个 AI 领域也是如此：「先在所有数据上训练、再微调/提示做具体任务」的基础模型范式本身反直觉，至今很多 EEG 论文仍未领会这一点。
所属事件:AI 研究者反思基础模型范式与可解释性研究的价值(2 条相关)→
「研究」频道最新
- 美团 LongCat 团队发布 Data World：合成数据环境训练数据智能体 — meituan-longcat · 2026-10-16
- FDE-Gym 基准曝光 AI 交付最后一英里：前沿模型得分最多 0.56 — DeepLethe · 2026-10-16
- ForcingBooster 按块分配去噪步数，自回归视频生成算力省一半 — VAST-AI · 2026-10-16
- 百度开源 FlashMask：长上下文训练最高比 FlashAttention-4 快 1.55 倍 — BaiduResearch · 2026-10-16
- SemEval-2027 设多模态新闻框架分析任务,覆盖四种语言 — preslav_nakov · 2026-10-16
- 可解释性之争:单个多义神经元可解释,不代表全部如此 — aran_nayebi · 2026-10-16