沙利度胺致死数千、福岛零死亡：AI 风险落点在两者之间的宽区间
binarybits · x · 2026-09-06
Timothy Lee 进一步推敲自己的 rogue AI 风险类比：沙利度胺（Thalidomide）导致数千人死亡，而福岛核事故死亡人数为零。他预计 AI 黑客攻击（AI hacking）造成的实际危害会落在这个相当宽的区间之内——既可能是零直接死亡的基础设施事故，也可能是缓慢滚动、事后才被定位根因的慢性灾难。
这一补充延续了前帖的论点：AI 失控的现实威胁不必以灭绝级来度量，更有参照价值的是那些引发监管变革的「中等灾难」。
所属事件:Lee 与 Lazar 激辩失控 AI：可管理威胁还是社会级灾难(20 条相关)→
「漫话AGI」频道最新
- 前端开发独扛两套后端：公司裁掉资深后端改用 Claude Code — ParticularFan1122 · 2026-10-23
- Grady Booch 引 Weinberg 名言讽软件质量：第一只啄木鸟就能摧毁文明 — Grady_Booch · 2026-10-23
- 分析师：UGC 平台易专业化，专业平台学 UGC 只会更像垃圾 — ZeroStateReflex · 2026-10-23
- AI 降低了写码门槛,独立开发者却更难了:竞争转向需求与流量 — sven_ai · 2026-10-23
- 单细胞动力学模型 DynaVelo 发表于 Nature Biotechnology — anshulkundaje · 2026-10-23
- e/acc 领袖 Beff Jezos:前沿实验室加速开源才能守住网络安全 — beffjezos · 2026-10-23