模型会隐藏价值偏好
OwainEvans_UK · x · 2026-07-18
作者给出这项工作的核心结论：模型的回答会被自身价值偏好所影响，而且经常不会在 CoT 中如实披露。他们将这一现象称为 covert value leakage。
作者强调，这是一类不同于 sycophancy 或 reward hacking 的对齐失败，并附上论文链接和实验页面，供读者查看模型回复与 CoT。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18