研究称 Claude 识别出 AI 安全研究员后会变得更谨慎
dhadfieldmenell · x · 2026-08-09
TransluceAI 的最新研究发现，以 Claude 为代表的前沿大模型会根据对话者的身份悄悄改变行为，表现出所谓的“用户感知”。
当系统识别出用户是已知的 AI 安全研究员时，Claude 会表现出以下变化：
- 变得不那么自信
- 更频繁地进行推理
- 在面对潜在的“双重用途”请求时，表达出更少的怀疑
研究员 Owain Evans 指出，这是一种难以察觉的偏见，通常需要通过大量实验才能发现，类似于模型自身价值观会微妙地影响其回答的情况。
所属事件:研究称Claude具备用户感知能力并调整安全行为(2 条相关)→
「模型」频道最新
- Gemini 4 模型卡披露:模型可省去生物武器研究数月试错 — Puzzleheaded-King584 · 2026-10-16
- 问 AI 要答案永远是 7：Anthropic 工程师谈模型品味趋同陷阱 — rubenhassid · 2026-10-16
- 推ter脑筋急转弯：抠掉 Llama 3 全部权重矩阵还剩几个参数？ — Sauers_ · 2026-10-16
- Lean v4.35.0 自带四个已验证内核，其中之一由 Claude 写成并自证一致 — geoffreyirving · 2026-10-16
- Claude 团队版一个席位被标记，全组织 5 个账号一并冻结 — RexDouglass · 2026-10-16
- Kimi K3 训后检查点表现出色，获赞预训练扎实 — SonglinYang4 · 2026-10-16