可解释性研究员：mech interp 必须大幅提速，不能等 8.5 年
ArthurConmy · x · 2026-09-07
可解释性研究者 ArthurConmy 在一场关于 mech interp 前景的讨论中列出自己的立场：
- 希望 mech interp（机制可解释性）胜出，尤其是新模型在无 CoT 时间跨度上的改进提供了机会
- 但不认为 interp 胜出是必需的：如果 CoT 可监控性能在几代模型内持续扩展，加上时间线很短，interp 并非唯一路径
- 认为 interp 已在狭窄场景中起效并将继续；他更反对的是那些声称「interp 长期不工作」的论断
- 对「某方法很长时间不 work」的论证持怀疑态度，认为存在幸存者偏差——人们只记得留存下来的方法
- 核心判断：如果 interp 要真正起作用，必须比 8.5 年快得多才行
这场争论源于 Chris Potts「AI 每个重大想法起初都长期不 work」的说法。
所属事件:可解释性价值之争：探针算不算成果，RL 为何不被苛责(10 条相关)→
「漫话AGI」频道最新
- 红杉资本断言：下一家万亿美元公司将是「服务即软件」 — 2C_ornot2C · 2026-10-24
- 论文把 LLM 传播建模为「认知病毒」：越过临界点后依赖难以逆转 — 2C_ornot2C · 2026-10-24
- 微软 AI CEO：Agent 集群协同进展快到让全行业意外 — anirbanbandyo · 2026-10-24
- 机器人的 ChatGPT 时刻？答案就是 ChatGPT 本身 — eigenron · 2026-10-24
- 病毒有意识吗？一句反问点破 AI 风险争论误区 — AlexTensor · 2026-10-24
- 人人谈 AI 时代的品味,却没人谈去哪找有品味的人才 — vaibhavbetter · 2026-10-24