神经网络子网络多为纯函数 但规约与数据分布深度纠缠

研究者 jdpressman 探讨神经网络可解释性的一个核心难题：网络中许多子网络（如 circuit）本质上接近纯函数，原则上可以形式化规约、证明其正确性。然而难点在于，这类 spec 与训练数据分布深度纠缠，难以脱离数据独立定义，使得把网络拆解为可证明正确性的部分面临根本性障碍。

2026-11-09 ~ 2026-11-09 · 2 条相关