「把神经网络反编译成可读代码」引述爆冷，学界质疑其理论基础

fkasummer · x · 2026-10-16

LuxStella 转述了一个被其称为「如果成立将非常疯狂」的可解释性研究主张：原则上可以把神经网络「反编译成可解释的代码」。gragtah 对此提出根本性质疑——「神经元怎么可能像名词一样被对应？这背后的理论到底是什么？」认为该说法即便在原理层面也讲不通。

这条讨论折射出可解释性研究里「把网络还原为人类可读程序」这一激进路线引发的争议：支持者认为一旦可行将彻底改变模型审计方式，怀疑者则质疑其数学基础是否存在。