Anthropic 研究员辞职警告十年内灭世风险，作者用复利曲线反驳

alex_verem · x · 2026-09-19

前 OpenAI、Anthropic 预训练研究员 Jacob Coxon 公开宣布辞职，称两家公司在竞逐自我改进的超级智能、拿所有人的生命赌博，并称建造者本人也认为 AI 可能在本十年末杀死所有人，该帖浏览量超 1.7 亿。随后一名在职同事公开认同，把风险概率放到 10% 以上。

Newsletter 作者 Alex Prompter 在长文中梳理了这场争论的全过程，并提出不同看法：末日论背后的逻辑其实是复利——小改进不断叠加直至曲线垂直，但他认为更值得关注的是工作中同样可复利的 AI 能力曲线，而非致死曲线。文中还附带一个「Compounding Error Check」提示词，用于检验 AI 工作流中细小错误在一年内如何累积，并推荐了两正两反四篇延伸阅读。