Interpreting and Steering LLM Agents for Social Simulations
Jiayue Gaveal Fan, Arul Murugan, Shreyas Krishnan, Abhishek Nagaraj
cs.LG, cs.AI, cs.CL
2026-09-15
Berkeley 用 SAE 与探针在 Llama-3.3-70B 上转向社会实验智能体：彩票切换点可校准到误差约 2 token，人设提示在风险上几乎无效，创造力上强提示仍更高。
社会科学家已经把 LLM 当廉价被试用：彩票、最后通牒、头脑风暴，几十个智能体一轮就能跑完。黑盒卡在两头。归纳理论需要看见行为背后的机制，演绎实验需要把某个机制放大或关掉。提示词只能改表面人设，模型随后用自回归文本给自己编理由，编出来的不一定是真正驱动选择的内部表征。
Berkeley DIAL 把机械可解释性里的两件工具搬进社会模拟：稀疏自编码器（SAE，把隐藏激活拆成人类能读的特征）和线性探针（probe，在激活空间里学一条可加减的特质方向）。对照是同一套任务上的人设提示、思维链和 few-shot。骨干模型是 Llama-3.3-70B-Instruct。
四项任务分两类。偏好：彩票（稳拿 50 token，对上 50% 拿到 n、50% 拿 0）和最后通牒（对方从 100 token 里分给你 n，接受则按报价分，拒绝则双方归零）。能力：砖头的非常规用途，订书机怎么改更好。每条件 40 个智能体。彩票里风险中性点是期望值相等的 n=100。
SAE 用 Goodfire 在该模型第 50 层（共 80 层）上、用 LMSYS Chat 训好的字典。Claude 把特征翻成自然语言后丢掉 3.5% 有害项，剩下 65,536 维。转向时把选中特征的激活加减标量 α∈[-1,1]，再解码回激活空间注入该层。探针在第 48 层做 ℓ2 正则逻辑回归，该层是交叉验证里判别最好的一层。偏好任务用模型自己的选择当标签（选风险=高风险偏好），创造力用独立 GPT-5 打分再按中位数切高低。转向时把单位化权重按强度 λ 加到隐藏状态上。偏好探针留出分类准确率 82%。
提示从弱到强：基线、人设、零样本思维链、6 条 few-shot、few-shot 加思维链；彩票和最后通牒还扫了示范里目标行为占比 ρ 从 0 到 1。创造力另加高温采样。开放回答用五家独立裁判盲评、控长度：GPT-5、Claude Sonnet 4.6、Gemini 2.5 Pro、Kimi K2.6、DeepSeek V4 Pro，两两 Spearman 均值 0.77。
彩票基线偏风险厌恶，大约 125 token 才切到风险选项。人设「爱冒险」把切换点砸到约 20，几乎全有或全无：「几乎不冒险」没效果，「稍微冒险」就极端。SAE 随激活强度滑动：中等（0.6/0.4）大约 75 起切，更强（0.7/0.5）大约 65–70。更强的提示梯子在风险上几乎没杠杆，各剂量切换点停在 97–101，思维链更谨慎，切到约 140。探针把切换点放到约 30 到 200，对准目标的平均绝对误差约 2 token。
最后通牒基线大约出价超过 30 才接受（均分点是 50）。人设利他能把门槛压到 10。few-shot 思维链这次有剂量反应，接受门槛大约从 40 降到 10。探针把门槛在 30 到 60 之间平移，极端 λ 会饱和。
创造力上局面反过来。砖头任务 SAE 相对基线 Δ=−0.23，人设 +0.04，高温 −0.10；零样本思维链 +1.52，few-shot 加思维链 +1.48。订书机 SAE +0.45，人设 +0.34，人设加思维链 +0.59。探针能把 GPT-5 打分从目标 3 时的约 4.0 推到目标 9 时的约 8.2，但始终低于完美控制对角线，高目标处缺口更大。砖头上训的探针转到订书机、回形针、碗也还能用。Qwen-2-7B-Instruct 上定性图案一致，探针层是第 17 层。
给做 LLM 社会模拟的人一条能落地的分工：要看模型内部用哪套概念做决定，先读 SAE 的高激活特征；要对事先定义好的特质做剂量实验，用探针。人设提示便宜，但在风险上给不出平滑旋钮，还容易把事后叙述当成机制。强提示在开放生成上仍然更强。可解释工具在这里的卖点不是分数，是可校准的内部方向。
这不是给生产 agent 换人设的配方。它更接近给计算社会科学补一套「转基因小鼠」：把某个机制调高或调低，再看行为曲线怎么走。
作者写了三条。SAE 转向强度没有标准，拧过头会幻觉，特征也没完全解缠，推一个可能带上别的。实验停在个体，没做多智能体互动。特质集合很小，更抽象的社会机制未必能压成一条线性方向。
几处读下来站不稳。创造力探针的训练标签来自 LLM 裁判，主文图 11 的达成分也来自 GPT-5，五裁判主要覆盖 SAE 和提示条件，循环评价没有完全切断。偏好探针的标签来自同一模型自己的选择，学到的方向可能是「模型怎么说话像在冒险」，不一定是人类风险偏好。彩票上提示梯子几乎无效，最后通牒上 few-shot 思维链已经能做剂量反应，所以可解释工具全面压过提示只在风险这个构念上成立。主实验绑在 Llama-3.3-70B 和一套外部 SAE 上，换模型要重训探针、换字典。