可解释性研究:先讲故事再设计实验,还是只做实验?
unironictechbro · x · 2026-08-10
针对大模型可解释性研究的路径，引发了关于「艺术直觉」与「严谨科学」的辩论。
- 反方观点：认为太多可解释性研究员把自己当艺术家，但巧妙的故事和优雅的演示应从属于能证伪自己的实验。
- 正方辩护：反驳称「艺术直觉」必须先行。因为目前模型行为缺乏干净的实验范式，研究者需要先构建合理的叙事（Story），才能据此设计出真正能打破现有认知的实验。
「研究」频道最新
- ARC-AGI 榜单引争议：评测框架比模型本身更能决定分数 — thursdai_pod · 2026-08-10
- 无需训练的 LLM 量化新法 KLQ：按特征重要性分配比特 — Federal-Setting-3014 · 2026-08-10
- AI 也要打工赚工资：开源项目 ClawWork 测试模型真实盈亏 — dr_cintas · 2026-08-10
- 35B模型越级打怪？社区质疑其基准污染 — LegacyRemaster · 2026-08-10
- 论文警示：AI砍掉初级岗位将引发“认知公地”悲剧 — rohanpaul_ai · 2026-08-10
- 学者提议期刊直接弃用 AI 生成的同行评审报告 — Afinetheorem · 2026-08-10