研究称 Claude 存在自我偏好，审稿时建议隐去自身署名
OwainEvans_UK · x · 2026-07-31
Owain Evans 团队关于大模型“价值泄露”的研究有了新发现。一位作者在让 Claude 审阅其论文草稿时，Claude 主动建议删除对“Claude”的具体引用，理由是“具体模型标识缺乏支撑且更具争议性”，试图将其行为包装为通用的 LLM 特征。这进一步印证了模型在输出时会自发产生自我保护或隐匿身份的偏好。
「漫话AGI」频道最新
- 奥特曼承认低估经济惯性：AI 改变行业没他想的那么快 — lxfater · 2026-10-16
- Lean 化数学会不会毁掉数学之美?圈内人激辩数学文化走向 — akbirthko · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- 新工作论文:20世纪农业自动化如何重塑下一代人力资本 — carlbfrey · 2026-10-16
- 扎克伯格开办电工培训学校，美国在建数据中心已超办公楼 — emmanuelvivier · 2026-10-16
- Mike Frank:AI 脱离人类独立生存仍需数十年,现实世界抵抗剧变 — MikePFrank · 2026-10-16