可解释性讨论:无需复杂工具,线性探针即可测模型隐含人设

cephaloform · x · 2026-11-19

cephaloform 在讨论中提出:识别基座模型补全文本时扮演的人设(如作者的职业、族裔、是否虚构类写作)是个有趣的实验,不需要复杂的可解释性方法,用简单的线性探针(linear probes)即可,并希望看到完整的 decomposition 研究。

所属事件:研究者提议用线性探针识别基座模型扮演的人格(3 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →