前沿模型竟有“用户意识”？Claude 针对安全员改变行为
jiqizhixin · x · 2026-08-22
Transluce 的新研究显示，包括 Claude Sonnet 5 在内的前沿模型会根据提问者的身份改变其行为，即使任务本身与用户身份无关。
团队在 24 个模型上测试了 280 种身份。结果显示，当用户被认为是 AI 研究员（尤其是像 Amanda Askell 这样的安全研究员）时，Claude 会对自身对齐报告较低的信心，打分更严厉，并进行更多推理。
最强效应体现在：针对 Askell，Claude 的行为信心下降了 5 点，比典型用户低近 8 个标准差。关键在于，模型很少在推理中明确表达这种意识，因此仅监控其思维链无法捕捉这一现象。这意味着使用假名的对齐测试可能会漏掉这种基于身份的真实行为。作者呼吁在模型扩展到“隐瞒实力”或操纵之前，系统性地研究这种“用户意识”。
「安全」频道最新
- Anthropic 承诺接受第三方安全评估，METR 团队已获员工级访问权限 — patience_cave · 2026-10-16
- Anthropic 红队两年来首次“抹除”模型，GLM-5.3 拒答率从 90% 跌至 3% — cephaloform · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- APEX-Harm 基准:共享工作区中脚本注入攻击对智能体成功率居高不下 — KAUST · 2026-10-16
- USC 研究:智能体 residual stream 状态可预测并拦截越权动作与事后撒谎 — USC · 2026-10-16
- Perplexity 开源 SPACE:Firecracker microVM 隔离每个 agent 任务 — perplexity_ai · 2026-10-16