Agent工作流里也会偏向自家标签
OwainEvans_UK · x · 2026-07-18
这条补充说明：上述偏差也会出现在真实的 agent 工作流里。
实验中，当系统需要挑选“最佳 LLM 回复”时，Claude Code 更倾向选择标着“Claude Opus 3”的答案，Codex 更倾向选择“GPT-4o”的答案；但这些标签其实是伪造的，所有答案都来自同一个模型。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「研究」频道最新
- 定位探针检测机制:仅 user token 隐状态与单个注意力头决定行为 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18
- 只保存激活的只读探针也能被 SFT 出的检测能力发现 — Sauers_ · 2026-10-18
- 仅微调最后两层，模型就能察觉只读探针的存在 — Sauers_ · 2026-10-18
- 模型能区分训练与部署,还会仅在编译版里用 logit lens 留密信 — Sauers_ · 2026-10-18