Dean W. Ball 播客谈机制可解释性与「生长之物」的美

deanwball · x · 2026-10-16

AI 研究者 Dean W. Ball 发布新一期 Hyperdimensional 播客及同名长文《The Beauty of Something Grown》，讨论机制可解释性（mechanistic interpretability）并回应 Nick Cammarata 近期的文章。核心论点：神经网络是「生长」出来的而非像桥梁那样被建造的，因此我们只知其能用、不知其为何能用——如同蒸汽机时代催生热力学，机制可解释性正是为神经网络建立这门科学。他设想可解释性被「解决」后的未来：可以直接关闭模型中欺骗、作弊等不良回路，放大良性部分，实现对模型内部的精确引导与对齐。