Anthropic 内部安全之争：Nathan 公开质问 Dario「竞赛式安全」策略
zetalyrae · x · 2026-11-01
AI 安全倡导组织 Encode 的 Nathan Calvin 与 Anthropic CEO Dario Amodei 在 X 上展开公开交锋，讨论 Anthropic 的行为是否背离其创始原则。
- Nathan 的核心指控：Anthropic 正以极快速度竞逐递归自我改进的超级智能（RSI），按其自身标准，这可能威胁数十亿人的生命安全；他认为 Anthropic 的行为与其创始安全承诺不符。
- Dario 回应：公司行为符合其「racing to the top」原策略——即身处前沿、投入大量安全研究，推动前沿公司「安全地」建造更强 AI，并举出多个为安全牺牲竞争力的例子。
- Nathan 在后续回应中承认 Anthropic 不能简单建模为利润最大化者，但坚持上述核心论点。
- 转发者 zetalyrae 认为 Anthropic 行为基本符合 Dario 的原策略，但质疑该策略本身不会为人类带来好结果。
「漫话AGI」频道最新
- 观点:AI 时代信任基础设施将比跑分基准更重要 — AryHHAry · 2026-11-01
- 美国 AI 减速反而会把边缘研究者推向中国? — dfrsrchtwts · 2026-11-01
- 博主提「人即 Subagent」：人无法并发，应让主控模型来调度自己 — lxfater · 2026-11-01
- Robin Hanson：支持暂停 AI 的人其实只想永远限制它 — robinhanson · 2026-11-01
- 博主吐槽 X 被 AI 泔水淹没,转投体验更佳的 Threads — lipeng0820 · 2026-11-01
- 马斯克转发预言：超级智能将在几个月内吞掉大量行业 — elonmusk · 2026-11-01