GPT-4 给神经元写的解释被严格检验：高错误率、几乎无因果效力

论文《Rigorously Assessing Natural Language Explanations of Neurons》(arXiv:2309.10312,作者包括 Huang、Geiger、Wu、Potts 等)对 GPT-4 为 GPT-2 神经元生成的自然语言解释进行了系统性检验,发现这些解释错误率较高,且在因果效力上几乎无法解释神经元的行为。这一结果对当前用大模型自动生成可解释性描述的方法提出了挑战。

2026-10-25 ~ 2026-10-25 · 2 条相关

• GPT-4 给 GPT-2 神经元写的解释被系统性检验:高错误率、几乎无因果效力 — burny_tech · 2026-10-25

另有 1 条近重复转述:burny_tech