研究者提议用线性探针识别基座模型扮演的人格
网友 dodecagonism 提出可解释性研究想法:基座模型在补全文本时具备某种「真视」能力,能推断作者特征,是否可用近年可解释性方法识别模型正在扮演的人格?cephaloform 回应称这一实验很有趣,且无需复杂工具,简单的线性探针即可测量模型隐含的人设属性,如作者职业、族裔或是否为虚构类写作。
2026-11-19 ~ 2026-11-19 · 3 条相关
- 基座模型有「真视」能力?推友提议用线性探针识别其扮演的人设 — dodecagonism · 2026-11-19
- 用线性探针识别基座模型补全文本时扮演的人格,尚无人尝试 — cephaloform · 2026-11-19
- 可解释性讨论:无需复杂工具,线性探针即可测模型隐含人设 — cephaloform · 2026-11-19