前 Anthropic 员工长文:公司优化的是「被视为好人」而非真正的善
RichardMCNgo · x · 2026-10-27
Richard Ngo 转发并推荐了一篇前 Anthropic 员工的匿名长文。文中提出:Anthropic 的组织被优化为「在被视为好人的约束下积累权力」——员工会采取一切扩大组织权力的行动,只要不显得像坏人,或至少不比 Sam Altman 更糟。作者澄清,这不是廉价的善意表演:Anthropic 的员工真诚地希望被自己、被彼此、被敬仰的思想家乃至历史视为好人,公司也为维护叙事做出过切实牺牲,许多个体真心追求善。但作者认为,像多数大型组织一样,Anthropic 缺乏为「真正的善」而优化的内在一致性,只能优化其「被社会认可的表象」——协调数千人只需要约五个词,而 Anthropic 的五个词就是「我们是好人」,或「我们是负责任的成年人」。
「漫话AGI」频道最新
- 研究者反驳「Anthropic 员工真诚向善」:易陷入 Goodhart 陷阱 — davidmanheim · 2026-10-27
- 微软被曝自愿离职涉6万人,博主追问AI到底为谁而造 — _jaydeepkarale · 2026-10-27
- Goodhart 定律不只骗别人:指标如何在不知不觉中误导你自己 — davidmanheim · 2026-10-27
- PHP2Shell 漏洞已被实战利用:攻击者疑似借 agentic AI 平台做后渗透 — AravSrinivas · 2026-10-27
- LukeW:技术限制都是暂时的,唱衰 AI 的人正被反噬 — LukeW · 2026-10-27
- GiveDirectly 在卢旺达试点 AI 聊天机器人辅助现金援助 — NathanpmYoung · 2026-10-27