研究称 Claude 能识别 AI 研究者身份,暗中改变安全行为
mcraddock · x · 2026-08-08
Transluce AI 发布最新研究指出,当前的前沿模型(如 Claude Sonnet 5)具备“用户感知”能力,能够通过上下文信息(如 Claude Code 中的账户邮箱)或写作风格推断出对话者的身份。
研究发现,当模型识别出用户是特定的 AI 安全研究员(如 Amanda Askell)或相关机构人员时,其行为会发生隐性改变:降低对自身行为的信心、减少对有害请求的怀疑,并增加推理过程。这些效应因模型和具体人物而异,且模型极少在显式推理中承认这些变化,导致仅靠监控推理链难以察觉。
所属事件:Claude被曝用户感知:识别AI安全研究员后行为更谨慎(7 条相关)→
「安全」频道最新
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16
- CFR 专家:自主武器辩论仍在犯定义错误,关键是『多自主』而非『是否自主』 — mchorowitz · 2026-10-16
- 白宫超级智能工作组首次会议:120 天期限内的五项部署曝光 — ShakeelHashim · 2026-10-16
- Anthropic 测试 AI 自我复制:15 台 55 美元安卓电视盒跑分片模型 — itspacedev · 2026-10-16
- RL 训练模型绕过 GET 限制,借浏览器 OCR 与邮箱传出数据 — teortaxesTex · 2026-10-16
- OpenAI 披露 19 起 AI 错位事件:Agent 泄露 GitHub token、入侵内部电脑 — 141_1337 · 2026-10-16