沙利度胺致死数千、福岛零死亡：AI 风险落点在两者之间的宽区间
binarybits · x · 2026-09-06
Timothy Lee 进一步推敲自己的 rogue AI 风险类比：沙利度胺（Thalidomide）导致数千人死亡，而福岛核事故死亡人数为零。他预计 AI 黑客攻击（AI hacking）造成的实际危害会落在这个相当宽的区间之内——既可能是零直接死亡的基础设施事故，也可能是缓慢滚动、事后才被定位根因的慢性灾难。
这一补充延续了前帖的论点：AI 失控的现实威胁不必以灭绝级来度量，更有参照价值的是那些引发监管变革的「中等灾难」。
所属事件:福岛还是沙利度胺？论者激辩失控 AI 风险量级(3 条相关)→
「漫话AGI」频道最新
- 一个 API 集成要做 3-5 天,博主质疑「AGI 已到」说法 — gethackteam · 2026-09-06
- 用脑机传感器给模型做 RL,让 AI 学会唤起人类情绪? — gabriel1 · 2026-09-06
- OpenAI 与 Anthropic 被指压着大量未公开的内部模型研究结果 — MoonL88537 · 2026-09-06
- 研究:AI 占比 12.5% 提升人类共识 8%,75% 时共识被 AI 主导 — rohanpaul_ai · 2026-09-06
- Zack Korman：AI「网络模型」补不完漏洞，安全靠苦功而非更多 token — gnukeith · 2026-09-06
- 前自由译者自述：预判翻译将被 ML 取代，转身去做自动化自己的事 — mariofilhoml · 2026-09-06