Nathan Calvin 公开回应 Dario：Anthropic 正全速冲刺递归自我改进
ShakeelHashim · x · 2026-10-22
政策研究者 Nathan Calvin 公开回复 Dario Amodei 对其前文的回应。他肯定这种公开交锋优于公司内部 Slack 沟通，并承认 Anthropic 并非利润最大化者，此前举的多项为安全让渡竞争利益的例子成立。
但他重申核心担忧，归结为四点主张，第一条即：Anthropic 似乎正以极高风险冲刺构建可递归自我改进的超级智能（RSI）——按 Anthropic 自己的评估框架，这可能危及数十亿人的生命。帖子被广泛转发，引发 AI 安全圈对头部实验室治理承诺与实际行为差距的讨论。
所属事件:Anthropic 政策研究员再发声:公司正冲刺递归自我改进(2 条相关)→
「漫话AGI」频道最新
- AI Agent 与民主韧性:超专业化正在制造讨论盲区 — sethlazar · 2026-10-22
- Air Street 资本:欧洲无法靠租用算力换来 AI 主权 — nathanbenaich · 2026-10-22
- 「研究生若知道训练 SOTA LLM 真正有效的招，会气疯」 — code_star · 2026-10-22
- AI 网络攻击代理已具国家级水平：靠供应链式跳板绕过隔离网络 — harris_edouard · 2026-10-22
- 单向数据二极管：关键基础设施为何还没被 AI 网络代理攻破 — harris_edouard · 2026-10-22
- Nathan Calvin 再批 Anthropic:正疯狂冲刺递归自我改进的超级智能 — wfithian · 2026-10-22