神经元解释如何验证？可解释性研究者激辩判定标准

围绕 Nick Cammarata 的神经元解释文章（如 Jacamar 鸟头部偏圆、V 形特征是否清晰），Curt Tigges 与 Liv Gorton 提出质疑：模型在自然数据分布上运行，若将图像裁剪到神经元感受野后，人对激活的预测仍不显著优于随机猜测，该解释即不充分。Nick 回应称仅看整张图不够精确，应借助归因可视化验证，并指出晚期层感受野覆盖全图、可用验证工具多达数十种。

2026-10-22 ~ 2026-10-22 · 3 条相关

• 可解释性争论：看整张图不够，Nick 主张用归因可视化验证神经元解释 — nickcammarata · 2026-10-22
• 可解释性验证标准之争：裁剪到感受野仍猜不中就算解释失败？ — livgorton · 2026-10-22
• Nick Cammarata：晚期层感受野覆盖全图，验证神经元解释有几十种工具可用 — nickcammarata · 2026-10-22