Anthropic 研究员借航空伤亡史探讨：社会能容忍 AI 多大风险
robleclerc · x · 2026-09-16
Rob LeClerc 长文探讨 AI 风险治理的参照系，并更正此前把算力级写错（应为 Quadrillion 而非 Quintillion）。
核心论点：
- 他不预期存在生存风险（x-risk），但 AI 也不会零风险，真正的问题是社会愿意容忍多少危害。
- 他引用航空 fatalities 的历史数据作为「清醒的参照」：航空业曾被允许每年造成数千人死亡长达半个世纪，因为其带来的收益被社会认可（数据中 40 年代的大尖峰是二战造成的）。
- 结论方向：零风险从来不是标准，AI 的风险治理应像航空业一样在收益与可容忍伤亡之间寻找平衡。
这是一个有分量人物对 AI 风险框架的大局性观点，适合关注安全与政策走向的读者。
所属事件:研究员借航空伤亡史探讨AI风险容忍框架(2 条相关)→
「漫话AGI」频道最新
- 图灵 1951 年就预言机器或接管，转发者讽高管被利益蒙眼 — DKokotajlo · 2026-09-16
- eigenrobot 调侃:把「对齐」等同于「做个好人」的安全研究员 — eigenrobot · 2026-09-16
- 类比推演：Zoom 之于 AI 时代的电话系统，会是下一个什么 — curious_vii · 2026-09-16
- 「失控 AI」是伪命题：从工程机制逐条拆解末日论为何站不住 — deadgirlrevvy · 2026-09-16
- 招聘者提醒:30/60/90 天计划已过时,节奏全面加速 — morganb · 2026-09-16
- Sara Hooker 质疑 AI 灭绝风险论:10% 说法不负责任 — sarahookr · 2026-09-16