可解释性研究遭遇数据评估难题

一位从数据/评测方向转向可解释性(interpretability)的研究员发文指出，该领域正重演数据中心的评估难题：要正确评估一个能揭示模型「内心想法」的 lens 非常困难。在后续帖子中作者补充，自己的看法有所变化——虽然近期不会写纯评测/数据类论文，但观察到许多优秀的方法类或可解释性论文本身都附带数据贡献，数据工作与 interp 方法研究并非彼此对立。

2026-10-02 ~ 2026-10-02 · 2 条相关