「别说 just not causal」:描述性与因果性工作可共生
burny_tech · x · 2026-11-06
liusida2007 在同一讨论线程的后续帖《Say more than "not causal"》进一步指出:说一个结果「未建立因果机制」与说它「未推进我们对模型的理解」是两回事,前者正确并不蕴含后者。
- 描述性发现可以激发因果假设;因果实验也可能暴露意外的内部模式,或证明早先解读有误
- 科学进步不必遵循从观察到验证的单一序列,发现与解释可以并行发展
- 评价研究的标准应是:它声称教给我们关于模型的什么,以及证据是否支持该声称
与主帖构成完整论证,是对 mech interp 评审文化的补充论述。
「研究」频道最新
- 理论计算机科学家谈密码学假设：再强的 AI 也找不到不存在的算法 — fortnow · 2026-11-06
- Lambda 携手 NVIDIA 与李飞飞实验室发布 I3L:全身移动操作成功率提升 68.3 点 — TheZachMueller · 2026-11-06
- 具身智能关键在能力边界:System-1 并行与 System-2 自回归如何分工 — ZhidingYu · 2026-11-06
- LLM 智能体记忆新架构论文过审：四层「组织共享皮质」设计 — letandrewcook · 2026-11-06
- 苹果 GSM-Symbolic 论文：只改名字数字，SOTA 模型数学成绩就大跌 — imjustnewatai · 2026-11-06
- Elicit 将在 ISPOR 维也纳展示 AI 辅助系统综述的 Cochrane 标准评估 — elicitorg · 2026-11-06