Ben Todd 算账：让 AI 慢十年代价约 500 万亿美元
ben_j_todd · x · 2026-10-03
80,000 Hours 创始人 Ben Todd 用粗略估算衡量「放慢 AI」的代价与收益：
- 每年约 0.5% 的人死于疾病，若 radically 更好的医疗技术提前一年到来，全世界应愿支付约 50 万亿美元；因此让 AI 慢 10 年的代价约 500 万亿美元。
- 结论：只要 catastrophe（灾难性结果）概率下降超过 5%，放慢 AI 就是值得的。
- 另一套账：人们通常愿付约 1 倍年收入来规避 1% 的死亡概率，则全人类愿付约 100 万亿美元规避 1% 的灭绝风险；10% 灭绝概率事件的「责任保险」价值约 1000 万亿美元。
- 他补充：若把未来世代也计入，放慢 AI 的理由会更强。
这是典型的用保险/支付意愿框架为 AI 减速辩护的观点论证。
「漫话AGI」频道最新
- Grimes 调侃 AI 建造者:你们造神却不信神 — moonsandhues · 2026-10-03
- Andy Matuschak 从三种伦理观论证:明知必被滥用就不该做第一个 — andy_matuschak · 2026-10-03
- Epoch AI：现有芯片可同时跑 19 亿个智能体，相当于全人类工时 — 141_1337 · 2026-10-03
- AI 已让游戏模组制作提速千倍，下一个将是 AR 应用大爆发 — Dr_Singularity · 2026-10-03
- 24 年前 2.5k 参数虚拟生物实验：AI 意识论仍是拟人投射 — robleclerc · 2026-10-03
- 「Prompt 工程」寿命仅一年?开发者称 AI 问题迭代快到 IP 法无法跟上 — natesiggard · 2026-10-03