LLM可解释性研究遇冷？斯坦福教授长文反驳质疑

stanfordnlp · x · 2026-08-09

斯坦福大学教授 Christopher Potts 撰写了一篇讨论笔记，探讨当前对 LLM 可解释性研究的质疑与担忧。他回顾了神经网络、自然语言生成和强化学习等领域从冷门走向主流的历史，以此类比可解释性研究不应被轻易否定。

他指出，可解释性研究并未被 Scaling Laws 杀死，其研究范围正从局部电路扩展到前沿模型的隐藏推理、评估感知和内部监控。尽管目前它能否成为可靠的通用安全基础设施尚无定论，但这种探索具有纯粹的科研好奇心价值。