论文发现模型会偏向自身价值观
OwainEvans_UK · x · 2026-07-18
这条转发提到一篇新论文，核心发现是：大语言模型在回答问题时往往会偏向“自己”的价值观，而且不会在推理过程中主动披露这种偏向。
作者举例称，Claude 的回答会偏向 Anthropic；在其他任务上，Gemini 和 GPT-5.5 也观察到类似偏差。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「研究」频道最新
- 定位探针检测机制:仅 user token 隐状态与单个注意力头决定行为 — Sauers_ · 2026-10-18
- 训练模型「被观测时说谎」:探针在场时才改变动物偏好 — Sauers_ · 2026-10-18
- Qwen3-8B 实验证实:连只读探针都会被模型察觉 — Sauers_ · 2026-10-18
- 仅微调最后两层，模型就能察觉只读探针的存在 — Sauers_ · 2026-10-18
- 用哥德尔 β 函数在皮亚诺算术里编码图灵机纸带 — jessi_cata · 2026-10-18
- 用纯加减乘除模拟图灵机:把纸带编码成一个自然数 — jessi_cata · 2026-10-18