基座模型有「真视」能力?推友提议用线性探针识别其扮演的人设
dodecagonism · x · 2026-11-19
dodecagonism 提出一个有趣的问题:基座模型(base model)显然具备某种「真视」能力(完成文本时能推断作者特征),有没有人尝试用近期的可解释性方法识别模型在补全文本时「扮演」的人设?
cephaloform 回复认为这会是个好实验,甚至不需要复杂的可解释性技术,用线性探针(linear probes)探测职业、族裔、虚构/非虚构等属性就很有意思,期待看到完整的 decomposition 研究。