研究者批评「潜空间考古学」：压缩伪影并非数字心智之窗

Gerard Sans 对当前可解释性研究提出批评，指出许多论文在模型潜空间中导航并读取最终状态，实质是做「潜空间考古学」。他认为这种做法本身没问题，但需认识到压缩伪影并非窥探「数字心智」的窗口，只是「数据化石」，无法说明底层分布的形成机制。他强调预训练和基于课程的数据策展才是理解模型的关键。

2026-11-07 ~ 2026-11-07 · 2 条相关