研究者呼吁审视「10% 灭绝概率」背后的理论假设
安全研究者 sebkrier 提出观点：对于「AI 有 10% 概率导致人类全员死亡」这类 p(doom) 说法，人们应当更主动地质询其底层假设，包括对智能本质的理解、权力如何运作、工具性收敛以及 Omohundro 式的驱动等理论根基。他认为这些关于 AI 灭绝风险的论断并非生物性风险，其背后的理性、信念与核心假设亟待科学审视，而非不加检验地接受。
2026-09-09 ~ 2026-09-09 · 2 条相关
- 第 1 集:前OpenAI核心研究员首度自问：AI是否发展太快(2026-09-09,12 条)
- 第 2 集:研究者呼吁审视「10% 灭绝概率」背后的理论假设(2026-09-09,2 条)
- 第 3 集:AI 安全圈激辩：既信风险又留实验室是否自洽(2026-09-09,6 条)
- 第 4 集:AI 安全叙事转向：模型本身成为最大对手(2026-09-10,2 条)
- 质疑「10% 全员灭绝」论:核心假设亟待科学审视 — lucasmeijer · 2026-09-09
- 安全研究者呼吁： scrutinize「10% 灭绝概率」背后的理论根基 — sebkrier · 2026-09-09