以航空安全史为镜:AI 伤亡率或每年降一个数量级
robleclerc · x · 2026-09-15
Rob LeClerc 借航空业 fatalities 历史论证 AI 风险的合理容忍框架：
- 零风险从来不是标准：航空业半个世纪里每年致死数千人仍被允许，因为收益足够大；AI 同理会有事故、滥用与岗位冲击，若科学/医疗/生产力的上行空间大，就应容忍一定水平的风险
- 绝对伤害与相对伤害可反向移动：使用增长快于残余风险率，相对死亡率下降；AI 已部署给数亿人，按每 quintillion tokens 死亡数计算，该指标可能每年下降约一个数量级——这才是该盯住的安全指标
- 从事故中学习：每次坠机潮催生调查、设计改进与国际规则，行业没有停飞而是制度化反馈闭环；AI 需要对应的快速透明事故报告、独立调查与迭代修复，而非「要么做对要么永久暂停」
- 伤害容忍度会水涨船高：70 年代可接受的年数千人航空死亡今天不可接受；2026-2030 年看起来正常的 AI 早期伤害，到 2040 年可能无法被公众接受
「漫话AGI」频道最新
- 批评者讽刺 AI 公司:一边宣称危险,一边零披露技术细节 — 1a3orn · 2026-09-16
- 生物安全学者隔空交锋:AI 生物风险是真威胁还是实验室逃避监管话术 — anshulkundaje · 2026-09-16
- 调查：EA 系资助 300 万美元给卫报，AI 末日报道 6 名参与者全被同源资金供养 — mark_k · 2026-09-16
- 大脑是计算机吗？一场关于 LLM 智能与二元论的争论 — WillRinehart · 2026-09-16
- Max Levchin:公开讨论Agent接管互联网策略反成训练数据 — JosephJacks_ · 2026-09-16
- 2023 年对 AI 持怀疑态度没人被开除，2026 年还成立吗？ — dfinke · 2026-09-15